Мне кажется, надо студентам наглядно показывать, что такое градиент и производная по направлению. Можно показать на примере гор. Вот лезет студент-скалолаз по горе, участвуя в состязании, кто выше залезет. Соответственно, градиент — это то направление для него в текущий момент, сдвинувшись по которому на небольшую величину по горизонтали, он получит наибольший выигрыш в высоте. Скажем, если он решит переместиться на метр на на северо-восток (1; 1), то он прибавит в высоте три метра, а если строго на север (0; 1), то только один.

Что такое производная по направлению? Если студент увидит где-то на склоне сбоку симпатичную студентку и стал карабкаться по направлению к ней, то производная по направлению — это как изменится высота, на которой находится в данный момент студент, если он сдвинется на небольшое расстояние в сторону студентки.

Первый курс перед зачётом вообще не представляет, что такое собственные векторы. Почему там всё бывает ортогонально, почему при решении уравнений так важны собственные значения. Если мы находим собственное значение, то начинаем понимать проблему изнутри. Почему в огромных матрицах с довольно сильно зависимыми переменными всю информацию несут несколько первых собственных векторов, где там видна ортогональность (можно показать им облако точек вытянутое, провести два собственных вектора).