Лекция №7. ИИ: Опыт, особенности, техника безопасности, архитектура и лексикон | Алексей Недоря |

7-я лекция Алексея Недоря о реальных границах применения ИИ в программировании. Инженерный взгляд на разработку компиляторов с ИИ-агентами, важность формальной верификации, компонентной архитектуры и «законов робототехники» для разработчика. Презентация по ссылке https://ontonet.org/lenta/лента/элемент/5719 00:01:00 - Разработка языка и инструментов с активным использованием ИИ-агентов 00:04:06 - Измерительные стенды и сравнение генерации кода разными моделями 00:07:35 - Роль и ограничения инструментов: работа только в паре с человеком 00:15:03 - «Законы робототехники»: недоверие к ИИ и риски критических ошибок 00:20:31 - Проблемы доверия и необходимость тщательной верификации кода ИИ 00:24:13 - Ложная антропоморфность и фундаментальные отличия мышления ИИ 00:26:40 - Границы применения ИИ: когда вред от использования превышает пользу 00:27:25 - Техника безопасности: чёткая постановка задачи и составление ТЗ для ИИ 00:30:02 - Подход к ТЗ: баланс между чёткостью требований и свободой решений 00:38:30 - Процесс разработки компилятора: от плана до минимальных модулей 00:40:17 - Практический опыт: поэтапная разработка и тестирование компилятора за 3–4 дня 00:42:03 - Контролируемый компилятор и планы по внедрению нескольких его вариантов 00:45:23 - Наращивание измерительной части стенда для сравнения моделей ИИ 00:46:01 - Финансовые аспекты и расчёт затрат на использование моделей ИИ 00:47:00 - Готовность решений: экспериментальный продукт или конечный для пользователей 00:49:24 - Размышления о технологической революции: смена агента, а не самой технологии 00:51:32 - Аналогия с конвейером Форда и стандартизация процессов в IT 00:53:30 - Оценка ситуации: программирование как ремесло, а не промышленное производство 00:55:49 - Проблемы улучшения систем без нарушения существующей архитектуры 00:56:46 - Контроль расходов на ИИ и необходимость высокой квалификации специалистов 01:01:51 - Экономическая модель ИИ-сервисов и проблемы неэффективных расходов на токены 01:11:04 - Необходимость стандартизации и переход к компонентному программированию 01:12:35 - Роль архитектуры и лексикона в построении и верификации компонентов 01:13:36 - Формальная верификация компонентов и доказательство правил их использования 01:16:29 - Перспективы: экосистема для деплоя компонентов на любые подходящие устройства 01:21:21 - Концепция сферы Дайсона и гипотетическое использование энергии звезды 01:22:11 - Рост энергопотребления и тренд на строительство орбитальных дата-центров 01:23:09 - Современные технологии и компилятор с полным контролем над языком 01:24:01 - Сложности вывода компилятора в продакшн и высокие затраты на формальную верификацию 01:25:01 - Особенности разных компиляторов, созданных для различных диалектов языка 01:26:19 - Критика языков Модула и Оберон для задач компонентного программирования 01:27:17 - Социальные препятствия и роль государства в реализации крупных технологических проектов 01:28:48 - Обсуждение статьи в «Цифровой экономике» и эволюция взглядов автора 01:29:43 - Роль лексикона в архитектуре формальной верификации единой экосистемы 01:30:38 - Рабочие планы, контакты с МГТУ им. Баумана и административные сложности 01:32:12 - Планы на будущее и готовность к дальнейшему обсуждению проектов 01:33:05 - Завершение разговора и подведение итогов дискуссии