Иван Оселедец
Вычислительная линейная алгебра
О курсе
Вычислительная линейная алгебра посвящена матрицам, векторам и операциями над ними. Это базовые операции анализа данных: один слой полносвязной нейронной сети - это композиция умножения на матрицу и нелинейности, а сверточная нейронная сеть - это умножение на структурированную матрицу, называемую теплицевой матрицей. Базовых задач вычислительной линейной алгебры немного: решение линейных систем, нахождение собственных значений, решение динамических задач. В зависимости от размера задачи, существуют различные методы их решения: матричные разложения для небольших задач, итерационные методы для задач большой размерности.
Этот курс посвящен как линейной алгебре, так и эффективным алгоритмам выполнения матричных операций.
Команда курса
Иван Оселедец
Лектор
Александр Катруца
Семинарист
Программа курса
Floating-point arithmetic, vector norms
Matrix norms and unitary matrices
Matvecs and matmuls, memory hierarchy, Strassen algorithm
Matrix rank, low-rank approximation, SVD
Linear systems
Eigenvalues and eigenvectors
Matrix decompositions and how we compute them
Symmetric eigenvalue problem and SVD
From dense to sparse linear algebra
Sparse direct solvers
Intro to iterative methods
Great Iterative Methods
Iterative methods and preconditioners
Iterative methods for large scale eigenvalue problems
Structured matrices, FFT, convolutions, Toeplitz matrices
Matrix functions and matrix equations
Tensors and tensor decompositions