Lection: "Lego blocks" for sequences processing.
Details: Natural language processing in latest years achieved the highest successes. Everybody knows about ChatGPT, someone can mention other Large Language Models (LLMs). Many companies use smart chat-bots in their products. But how do these smart systems build? What are their core concepts and building blocks? In the talk we will consider the smallest blocks and ideas that are used in building most models for sequences processing. Most of these ideas are used as "Lego blocks" in modern LLMs. We will concentrate on general ideas and its pros and cons, but not on deep details of its math or how to implement it in code. This lecture is an introduction to other lectures about LLMs.
Представляємо лектора XVIII літньої школи профілю математика-інформатика "ЛОЛ-2024"
Колбасін Владислав Олександрович - старший викладач кафедри "Комп'ютерна математика та аналіз даних", Національний технічний університет "Харківський політехнічний інститут", м.Харків, Україна. Крім того, Владислав працює Senior Data Scientist-ом у компанії Toshiba GCS.
До наукових інтересів Владислава належать вивчення методів глибокого навчання, комп'ютерного зору та NLP. Владислав є автором кількох курсів з методів глибокого навчання, а також постійним спікером на таких конференціях, як AIUkraine та AI&BigData Day.
Владислав деякий час був активним учасником змагальної платформи Kaggle, де отримав золоту медаль на конкурсі з класифікації текстів.
