Lecture 01:

• Theories:
  • NLP Research Questions and Tasks
  • Math & Lingustics Background
  • Chomsky Hierarchy of Grammars and Automata
  • Text Segmentation
  • Tokenization and Stemming
  • Morphology and Universal Morphology Corpus
  • Word frequncies and Zipf's Law
  • Collocations and Multi-word Expressions
• Practice:
  • Python Programming & NumPy & Jupyter Notebook
  • NLTK

Lecture 02:

• Theories:
  • Machine Learning basics
  • Classifiers, Logistic Regressions
  • Stochastic Gradient Descend
  • Vector Space Models and TF-IDFs
  • Text Classification
  • Sentiment Analysis
• Practice:
  • PyTorch & TensorFlow
  • Assignment 1:
  • Word2Vec

Lecture 03:

• Theories:
  • Distributional Semantics and Word Embeddings
  • Word2Vec and Evaluation
  • Softmax and Cross-entropy Loss
  • GLoVe, Fasttext
• Practice:
  • Word2Vec, Doc2Vec
• Assignment:
  • 1st assignment is open.

Lecture 04:

• Theories:
  • Artificial Neural Networks (ANNs)
  • Multilayer Perceptrons (MLPs)
  • Backpropagation
  • Convolutional Neural Networks (CNN)
  • Text Classification with CNNs
• Practice:
  • Topiс Modeling and Visualization

Lecture 05:

• Theories:
  • Part-of-Speech (POS) Tagging
  • Named Entity Recognition (NER)
  • Maximum Entropy (ME)
  • Sequence Labelling
  • Hidden Markov Models (HMMs)
  • Viterbi Search and Forward-Backword Algorithm
  • Conditional Random Fields (CRFs)

Lecture 06:

• Theories:
  • Neural Language Models
  • Recurrent Neural Networks (RNNs)
  • Long Short Term Memory (LSTM) Units
  • Bi-LSTM-CRF Models for Sequence Labeling
• Practice:
  • Neural Networks Tips and Tricks
  • Regularizations
  • Dropout
  • Initialization
• Assignments:
  • Assignment 1 Answers

Lecture 07:

• Theories:
  • Syntactic Parsing
  • Treebanks
  • Probabilistic Phrase Structure Grammars (PCFGs)
  • Constituent Parings with PCFG
  • Dependency Parsing
  • Parsing with Neural Networks
  • Semantic Role Labeling (optional)
  • Coreference Resolution (optional)
  • Discourse Parsing (optional)
• Practice:
  • Final Project Selection

Lecture 08:

• Theories:
  • Statistical Machine Translation
  • Statistical Language Models
  • IBM Models
  • Log-linear Framework and Phrase-based Models
  • Beam Search Decoding
  • Machine Translation Evaluation and BLEU
  • Sequence-to-sequence Models
  • Attention Mechanisms
  • RNN-based Neural Machine Translation (NMT)
• Practice:
  • RNN-based NMT

Lecture 09:

• Theories:
  • Subword Level and Character Level NMT
  • Transformers
  • Transformer-based NMT
  • Pre-trained Language Models
  • BERT
  • GPT-2
• Practice:
  • Transformers

Lecture 10:

• Theories:
  • Question Answering
  • Semantic Parsing (optional)
  • Dialog

Lecture 11 (Guest):

• Theories:
  • Guest Lectures
• Practice

Lecture 12 (Project Presentation):

• Practice:
  • Final Project Presentation

Введение в анализ изображений.
● Изображения.
● Свойства изображения.
● Модели цвета.
● Примеры современных систем и алгоритмов компьютерного зрения.
● Устройство камеры и оптической системы человека.

Классические методы обработки изображений
● Основные задачи обработки изображений.
● Цветокоррекция изображений. Гистограммы, линейная и нелинейная коррекции яркости. Модели камеры и цветокоррекции.
● Конволюции.
● Edge Detection
● Contour Detection
● SURF и SIRF
● Гомография
● Selective search

Введение в глубокое обучение
● Нейронная сеть.
● Функции активации.
● Функции ошибок.
Градиентный спуск.
● Оптимизаторы.
● Регуляризация.
● BatchNormalization.


Предобработка данных. Аугментация изображений. Датасеты
● Предобработка данных для нейронной сети.
● Методы аугментации данных.
● MixUp
● Популярные датасеты изображений.
● Kaggle

Конволюционные нейронные сети
● CNN
● MaxPooling
● Модификации CNN
● Архитектуры CNN

Классификация изображений
● Задача классификации изображений
● Метрики качества классификации
● Функции ошибки классификации
● Трюки для улучшения классификации

Сегментация изображений
● Задача сегментации изображений
● Метрики качества классификации
● Архитектуры сегментации
● Функции ошибки сегментации

Детектирование объектов на изображении
● Задача детектирования объектов на изображении
● Метрики качества детекции
● Архитектуры детекции

Идентификация объектов на изображении. Поиск схожих объектов
● Задача идентификации
● Идентификация лиц
● Функции ошибки
● Metic Learning
● Модель CLIP

Распознавание текста на изображении
● Детектирование строк
● Распознавание текста
● CTC loss
● Архитектуры

Оптический поток. Карта глубин
● Оптический поток
● Карта глубин

Обучение без учителя
● Автоэнкодер
● Вариационный автоэнкодер
● Conditional Variational Autoencoder
● Кластеризация полученных векторов
● Few-shot обучение на полученных векторах

GAN
● Задача генерации изображений
● Генеративно-состязательная сеть
● Функция ошибки

Explainable Computer Vision
● CAM
● GradCAM

Заключительная часть
● Другие задачи обработки и анализа изображений
● Дальнейшие пути развити