От T9 до ChatGPT/ ML-инженер о том, как работают языковые модели и мифах вокруг AI
Description
Поймали Иру в студии kotelov podcast, чтобы поболтать о её приключениях в мире Data Science — узнали как она файнтюнит AI, разобрали в каких вопросах можно доверять ChatGPT и узнали как взломать языковую модель
Валерий Котелов пригласил в гости Ирину Николаеву — лид ML-направления в Raft, где она интегрирует LLM-модели в реальные продукты
Подписаться на невероятные новости, супервакансии и стажировки KOTELOV
Обсудить проект KOTELOV Оцифровываем корпорации
Отправить CV hr@kotelov.com или Работа в KOTELOV
Магазин мерча Мерч | KOTELOV
Телега Иры - @pansy_77
Блог компании Рафт на Хабр (вроде я на него ссылалась в конце тоже, но не увидела этого) - Raft, Ярославль / Статьи
Тг-канал Рафт про AI - Евгений Кокуйкин - Raft
LMSys Chatbot Arena Leaderboard - a Hugging Face Space by lmsys
Внутри:
00:00 Начало
01:23 Как изменились языковые модели: От Т9 до ChatGPT
06:49 Откуда тренд на языковые модели LLM
11:37 Может ли нейросеть быть врачом?
17:11 Преимущества языковых моделей больших языковых моделей перед другими технологиями
20:22 Тест Тьюринга: как понять, что ты общаешься с нейронкой
22:56 Как персональные данные могут утечь из языковой модели
27:46 Тюнинг языковой модели: какие фичи можно прикрутить к LLM
29:19 Как один дата-сайентист может собрать свой колл-центр из нейронок
46:15 Переход с ChatGPT и Llama: разница промтинга языковых моделей
49:12 В чем разница ChatGPT и Llama
50:04 Бенчмарки для языковых моделей. Как понять какая LLM-модель лучше
51:37 Защита данных с помощью LLM-модели
54:47 Про файнтюнинг LLM
56:32 Может ChatGPT слить данные?
58:57 Внедрение LLM в реальное производство
01:09:38 Оптимизация существующих языковых моделей
01:17:02 Какое образование у Иры
01:19:23 Нужно ли образование дата-сайентисту?