На Highload++ после доклада о языковых моделях к Ире выстроилась огромная очередь желающих задать вопросы. Кажется, в 2023 все только и говорили о ChatGPT, но никто так и не разобрался что у LLM под капотом. 

Поймали Иру в студии kotelov podcast, чтобы поболтать о её приключениях в мире Data Science — узнали как она файнтюнит AI, разобрали в каких вопросах можно доверять ChatGPT и узнали как взломать языковую модель 

Валерий Котелов пригласил в гости Ирину Николаеву — лид ML-направления в Raft, где она интегрирует LLM-модели в реальные продукты

Подписаться на невероятные новости, супервакансии и стажировки KOTELOV 

Обсудить проект KOTELOV Оцифровываем корпорации 

Отправить CV hr@kotelov.com или Работа в KOTELOV 

Магазин мерча Мерч | KOTELOV 

Телега Иры - @pansy_77

Блог компании Рафт на Хабр (вроде я на него ссылалась в конце тоже, но не увидела этого) - Raft, Ярославль / Статьи 

Тг-канал Рафт про AI - Евгений Кокуйкин - Raft 

LMSys Chatbot Arena Leaderboard - a Hugging Face Space by lmsys  

Внутри: 

00:00 Начало

01:23 Как изменились языковые модели: От Т9 до ChatGPT

06:49 Откуда тренд на языковые модели LLM

11:37 Может ли нейросеть быть врачом?

17:11 Преимущества языковых моделей больших языковых моделей перед другими технологиями 

20:22 Тест Тьюринга: как понять, что ты общаешься с нейронкой

22:56 Как персональные данные могут утечь из языковой модели

27:46 Тюнинг языковой модели: какие фичи можно прикрутить к LLM

29:19 Как один дата-сайентист может собрать свой колл-центр из нейронок

46:15 Переход с ChatGPT и Llama: разница промтинга языковых моделей

49:12 В чем разница ChatGPT и Llama

50:04 Бенчмарки для языковых моделей. Как понять какая LLM-модель лучше

51:37 Защита данных с помощью LLM-модели 

54:47 Про файнтюнинг LLM

56:32 Может ChatGPT слить данные?

58:57 Внедрение LLM в реальное производство

01:09:38 Оптимизация существующих языковых моделей

01:17:02 Какое образование у Иры

01:19:23 Нужно ли образование дата-сайентисту?