(a,b), реже <a,b> - скалярное
[a,b] - векторное
это стандартные обозначения
вектор у получил так: это проекция х на с, а значит колинеарна с. длина у известна, длина с известна. "масштабируем" с и получаем у.

но я не знаю что значит "ортогональная компонента вектора на плоскость", так что все мое решение - это по сути спекуляция