Программирование [Stepik] Трансформеры в NLP и приложениях (2024)

Moderator
Команда форума
27 Июл 2023
131,798
3,156
1731505584384.png


Описание [Stepik] Трансформеры в NLP и приложениях (2024):



Курс фокусируется на трансформаторах — самой популярной архитектуре нейронных сетей для решения задач в области NLP и различных приложений. В рамках курса детально изучается теоретическая структура трансформаторов, множество практических заданий на Python, а также проектное задание: создание сервиса, использующего трансформатор для решения задачи NLP.

Вы узнаете:

  • теоретическую структуру механизма внимания;
  • принцип работы трансформаторов;
  • самостоятельное обучение трансформаторов на PyTorch;
  • знакомство с библиотекой huggingface;
  • создание приложения с использованием streamlit.
Курс подробно описывает принцип работы механизма внимания и различные архитектуры трансформаторов. Кроме теории, курс включает множество практических заданий, требующих использования библиотеки PyTorch. Во время курса участники будут работать над проектом: обучат трансформатор для решения задачи NLP и представят решение в виде готового веб-приложения.

Также в курсе рассматриваются различные задачи из области NLP, для успешного решения которых необходимы трансформаторные архитектуры.

Курс предназначен для тех, кто интересуется областью NLP и Deep Learning в целом. Предполагается, что участники знакомы с классическими моделями машинного обучения и базовыми архитектурами DL, а также умеют обучать модели на Python.

Начальные требования:

  • для успешного прохождения курса от участников ожидается знание классических алгоритмов машинного обучения и базовых архитектур DL, а также умение обучать модели на Python. Рекомендуется пройти первые два курса из линейки: «Основы нейронных сетей и NLP» и «Рекуррентные сети в NLP и приложениях».
Программа курса:

  • о курсе;
  • NLP: обзор;
  • введение в PyTorch;
  • attention;
  • трансформаторы: теория;
  • трансформаторы: практика;
  • библиотека huggingface для решения задач NLP;
  • решение различных задач NLP;
  • проект по курсу;
  • ваш преподаватель: Елена Кантонистова, кандидат физико-математических наук, выпускница школы анализа данных Яндекса (ШАД).
Подробнее:
Для просмотра содержимого вам необходимо авторизоваться

Скачать курс [Stepik] Трансформеры в NLP и приложениях (2024):


Для просмотра содержимого вам необходимо авторизоваться
 
Последнее редактирование модератором:
Похожие темы