Мыслить как ученый

Почему искусственному интеллекту нужны видеокарты? Что такое смешанная точность и почему индустрия переходит на 8- и 4-битные вычисления? Говорим о гонке вычислений, эффективности современных чипов и компромиссах, которые позволяют обучать всё более крупные модели.

Разбираем, как устроены современные системы поиска и почему поиск стал одной из фундаментальных операций искусственного интеллекта. Обсуждаем векторный поиск, работу с огромными массивами данных, а также то, какое отношение к этим технологиям имеют биоинформатика, ДНК и поиск новых лекарств. Говорим о роли открытого кода в развитии технологий и о том, почему вклад в open-source-проекты может быть не менее важен для науки, чем академические публикации.

Список литературы от Ильи Суцкевера: https://github.com/dzyim/ilya-sutskever-recommended-reading

▶︎Naukka Talents – платформа для поиска талантов и найма STEM-специалистов в deep-tech и biotech проекты. Подать заявку кандидата: https://postnauka.org/link/nt_scast

▶︎Следите за ПостНаукой на других площадках: https://postnauka.org/link/linktr_scast

▶Курсы от создателей ПостНауки: https://postnauka.org/link/academy_scast

▶Поддержать ПостНауку: https://postnauka.org/link/donate_scast

▶По вопросам партнерства — коммуникационное агентство ПостНаука.Specials: https://postnauka.org/link/letsdance_scast

Тайминги выпуска:

00:00 О чем этот выпуск?

02:49 ИИ работает на видеокартах?

08:23 Как индустрия жертвует точностью ради масштаба

13:42 Что такое 16-битные и 4-битные числа?

17:46 Naukka Talents ищет талантливых STEM-специалистов

19:03 Компромисс между точностью и производительностью

25:50 Гонка ИИ движется в неправильную сторону?

30:04 Мир держится на open source?

33:20 Почему Big Tech экономит каждый бит

38:23 Зачем нужны строки?

44:00 Почему AlphaFold построен на компромиссах

47:22 Инфраструктура как операционная система науки

51:47 Что не так с поиском?

01:00:21 Поиск молекул и разработка новых лекарств

01:04:06 Почему технологии находят применение спустя годы

01:09:26 Зачем переписывать инфраструктуру ИИ?

01:14:06 Unum — самая маленькая Big Tech-компания в мире

01:25:43 Работа в корпорации или свой стартап?

01:33:35 Советы разработчикам: от студентов до сеньоров

01:43:40 Заключение

Обсуждаем устройство трансформеров и механизм внимания. Как появилась архитектура, на которой построены ChatGPT, Claude и Gemini? Почему предсказание следующего слова оказалось настолько мощной идеей и как оно изменило развитие AI? Говорим о природе интеллекта, различиях между человеком и LLM, а также о том, почему способность предсказывать следующее слово приводит к поведению, которое выглядит разумным.

Разбираем, как трансформеры помогают анализировать ДНК и как такие системы могут использоваться для персонализированной медицины. Говорим о будущем ИИ: почему эпоха масштабирования может подходить к концу, какие ограничения есть у современных моделей и каким может стать следующий этап развития искусственного интеллекта.

▶︎Naukka Talents – платформа для поиска талантов и найма STEM-специалистов в deep-tech и biotech проекты. Подать заявку кандидата: https://postnauka.org/link/nt_scast

▶︎Следите за ПостНаукой на других площадках: https://postnauka.org/link/linktr_scast

▶Курсы от создателей ПостНауки: https://postnauka.org/link/academy_scast

▶Поддержать ПостНауку: https://postnauka.org/link/donate_scast

▶По вопросам партнерства — коммуникационное агентство ПостНаука.Specials: https://postnauka.org/link/letsdance_scast

Тайминги выпуска:

00:00 О чем этот выпуск?

06:16 Как появились современные большие языковые модели

13:20 Тройственный союз: нейросети, символы и эволюция

17:31 Предыстория Attention Is All You Need

22:36 Проблема памяти до появления трансформеров

26:00 Что такое self-attention

32:46 Почему диалог сложнее машинного перевода

38:24 Как появились BERT и GPT

49:11 Создали ли мы искусственный интеллект?

59:11 Могут ли LLM навредить человечеству?

01:06:43 Почему AI делает контент вместо научных прорывов

01:11:58 Главная проблема трансформеров — длинный контекст

01:19:55 Как работает Recurrent Memory Transformer

01:25:29 Зачем LLM контекст на 50 миллионов токенов

01:29:53 Как превратить ДНК в язык для ИИ

01:35:56 Зачем изучать ДНК?

01:40:43 Зачем ИИ читать геном целиком?

01:47:57 Может ли ИИ прочитать весь геном человека?

01:52:26 ИИ против устойчивых бактерий

01:56:04 Без науки нет будущего

02:00:00 Заключение

Обсуждаем, чем private equity отличается от венчурного капитала и почему deeptech требует другого подхода к риску. Что такое технологический риск и риск масштабирования? Как инвесторы оценивают новые технологии и почему одни из них превращаются в технологические революции, а другие исчезают?

Разбираем, как рождаются новые индустрии. Как появился интернет 90-х и первые дата-центры? Почему сланцевая революция изменила мировой энергетический рынок и как фрекинг превратил США в крупнейшего производителя нефти?

Говорим о научном мышлении, культуре риска и роли капитала в развитии технологий. Почему учёные и инвесторы часто говорят на разных языках и кто решает, какие технологии нужны обществу?

▶︎Naukka Talents – платформа для поиска талантов и найма STEM-специалистов в deep-tech и biotech проекты. Подать заявку кандидата: https://postnauka.org/link/nt_scast

▶︎Следите за ПостНаукой на других площадках: https://postnauka.org/link/linktr_scast

▶Курсы от создателей ПостНауки: https://postnauka.org/link/academy_scast

▶Поддержать ПостНауку: https://postnauka.org/link/donate_scast

▶По вопросам партнерства — коммуникационное агентство ПостНаука.Specials: https://postnauka.org/link/letsdance_scast

Тайминги выпуска:

00:00 О чем этот выпуск?

02:45 Почему учёный ушёл из науки в бизнес

09:22 В США наука — просто профессия?

13:39 Что научное мышление даёт в бизнесе

19:30 Как создавались первые дата-центры Калифорнии

26:03 Что общего у IT-бума и советской космической программы

30:21 Чем private equity отличается от венчурного капитала

40:54 Deeptech нужны другие инвесторы?

48:22 Инвесторам сложно работать с учёными?

54:33 Фрекинг изменил мировой энергетический рынок

01:02:38 Как инвесторы оценивают риск в разных индустриях

01:08:30 Почему deeptech находится между VC и private equity

01:12:51 Где граница между этикой и экономикой?

01:19:51 Кто платит за «правильные» технологии?

01:24:28 Как рождаются технологические революции

01:31:49 Как совмещать прагматизм и мечту

01:35:18 Почему инвестору нужен «внутренний художник»

01:39:49 Заключение

Обсуждаем трудную проблему сознания: что такое субъективный опыт и как возникает «Я». Разбираем гиперсетевую теорию мозга и теорию когнитома: как память, нейронные сети и self-системы формируют субъективную реальность человека. Есть ли сознание у животных, можно ли искать его у искусственного интеллекта и почему решение проблемы сознания может изменить понимание человека. Обсуждаем парадоксальную ясность сознания: почему люди с тяжёлыми нейродегенеративными расстройствами иногда внезапно возвращают ясность мышления на исходе жизни.

Отдельная линия беседы — сама природа науки. Чем фундаментальные исследования отличаются от технологий, почему великие открытия редко начинаются с практической пользы и зачем государства инвестируют в «бесполезные знания».

▶︎Naukka Talents – платформа для поиска талантов и найма STEM-специалистов в deep-tech и biotech проекты. Подать заявку кандидата: https://postnauka.org/link/nt_scast

▶︎Следите за ПостНаукой на других площадках: https://postnauka.org/link/linktr_scast

▶Курсы от создателей ПостНауки: https://postnauka.org/link/academy_scast

▶Поддержать ПостНауку: https://postnauka.org/link/donate_scast

▶По вопросам партнерства — коммуникационное агентство ПостНаука.Specials: https://postnauka.org/link/letsdance_scast

Тайминги выпуска:

00:00 О чем этот выпуск?

02:57 Как объяснить сложное в эпоху рассеянного внимания

04:33 Почему люди чувствуют, что наука — «не для них»

06:36 Наука начинается там, где есть поиск истины

12:36 Как технологии двигают науку вперед

19:39 Почему человеку нужно неизведанное

23:24 Зачем нужны «бесполезные» исследования

31:12 Бескорыстие как идеал науки

33:42 Путь к главному делу жизни

35:08 Сознание — тайна или загадка?

40:53 Зачем науке заниматься сознанием?

51:04 Почему сознание — проблема №1

55:49 Сознание как ключ к пониманию реальности

59:39 Границы сознания: человек, животные, ИИ

01:05:02 Поиск главного вопроса о сознании

01:09:16 Кто такой «кто»?

01:15:24 Парадоксальная ясность сознания

01:25:05 Что такое сознание?

01:28:17 Теория когнитома

01:33:05 Заключение

Говорим об израильском технологическом чуде: как армия превратилась в фабрику инженеров, фаундеров и AI-компаний, почему военные подразделения стали частью глобальной инновационной экономики и как Израиль построил экосистему, где наука, венчур, корпорации и государство работают как единая система. Обсуждаем культуру инноваций и «культуру несогласия»: почему израильская инженерная среда поощряет спор, риск и быстрое принятие решений.

Разбираем, как устроен израильский deeptech: почему страна лидирует в кибербезопасности, инфраструктуре искусственного интеллекта, компьютерном зрении и оборонных технологиях, как Google, NVIDIA и другие корпорации ищут технологии в Израиле и почему эпоха AI меняет венчурный рынок.

▶︎Naukka Talents – платформа для поиска талантов и найма STEM-специалистов в deep-tech и biotech проекты. Подать заявку кандидата: https://postnauka.org/link/nt_scast

▶︎Следите за ПостНаукой на других площадках: https://postnauka.org/link/linktr_scast

▶Курсы от создателей ПостНауки: https://postnauka.org/link/academy_scast

▶Поддержать ПостНауку: https://postnauka.org/link/donate_scast

▶По вопросам партнерства — коммуникационное агентство ПостНаука.Specials: https://postnauka.org/link/letsdance_scast

Тайминги выпуска:

00:00 О чем этот выпуск? 

03:11 Что такое израильское венчурное чудо? 

10:06 Хуцпа, культура несогласия и закрытость венчурного рынка для новых репатриантов 

20:22 Почему армейский нетворк решает всё 

29:45 Армия как фабрика технологий 

37:17 Как армия делает из учёных предпринимателей 

43:54 Как Израиль стал столицей кибербезопасности 

48:43 Почему стартапы из спецподразделений не разваливаются 

55:48 Что будет с израильским чудом, если наступит мир? 

01:00:27 Safe Superintelligence Ильи Суцкевера 

01:02:55 Тренды deeptech 

01:09:00 Future Tech и квантовые технологии 

01:15:53 Безопасность как суперсила Израиля 

01:21:12 Когда и как инвестировать в deeptech 

01:26:35 Чем израильский венчур отличается от американского 

01:36:14 Гэп между академией и стартапом 

01:45:07 COVID открыл израильские стартапы для иностранных учёных 

01:44:49 Заключение