Том Гриффитс | Исследование острых углов ИИ с помощью инструментов когнитивистики

Подпишитесь на семинар Foresight Secure AI Seminar Group: https://foresight.org/seminar/secure-ai-seminar-group/ Поддержка исследователей, инженеров и предпринимателей в области компьютерных наук, машинного обучения, криптографии, безопасности и смежных областях, которые используют эти технологии для улучшения сотрудничества между людьми и, в конечном итоге, искусственным интеллектом. Том Гриффитс | Анализ сложных аспектов ИИ с помощью инструментов когнитивной науки Аннотация: Современные системы искусственного интеллекта демонстрируют удивительную неоднородность своих возможностей, проявляя сверхчеловеческую компетентность в одних задачах, но загадочные ограничения в других. Я буду утверждать, что инструменты, необходимые для понимания этой неоднородности, можно найти в когнитивной науке, где исследователи десятилетиями разрабатывали теоретические и эмпирические методы для осмысления возможностей интеллектуальных систем. Работы когнитивных ученых предлагают две стратегии для отображения сложных аспектов ИИ: выявление общих свойств нейронных сетей, которые могут привести к ограничениям для существующих систем ИИ, и рассмотрение случаев, когда человеческий разум может служить ориентиром для решения проблем, представляющих собой вызов для ИИ. Я представлю примеры обеих стратегий, обсудив некоторые неожиданные случаи, когда большие языковые модели показывают плохие результаты предсказуемым образом, и недавние результаты, использующие пределы человеческого познания для прогнозирования случаев, когда большие языковые модели и модели обработки изображений терпят неудачу. Биография докладчика: Том Гриффитс — профессор информационных технологий, сознания и культуры имени Генри Р. Люса на кафедрах психологии и компьютерных наук Принстонского университета. Он также является директором новой Принстонской лаборатории искусственного интеллекта, которая занимается выявлением областей, где ИИ может оказать преобразующее воздействие на исследования. Его работа исследует связи между человеческим и машинным обучением, используя идеи статистики и искусственного интеллекта для понимания того, как люди решают сложные вычислительные задачи, с которыми они сталкиваются в повседневной жизни. Он внес вклад в разработку байесовских моделей познания, вероятностного машинного обучения, непараметрической байесовской статистики и моделей культурной эволюции, а в последнее время его исследования посвящены изучению того, как методы когнитивной науки могут пролить свет на современные системы искусственного интеллекта. Том получил докторскую степень по психологии в Стэнфордском университете в 2005 году, преподавал в Университете Брауна и Калифорнийском университете в Беркли, прежде чем переехать в Принстон. Он был удостоен наград за свои исследования от таких организаций, как Американская психологическая ассоциация и Национальная академия наук, и является соавтором книги «Алгоритмы для жизни», знакомящей широкую аудиторию с идеями из области информатики и когнитивной науки. Его новая книга «Законы мышления» рассказывает историю поиска математической теории разума и была опубликована в феврале 2026 года. ════════════════════════════════════════ Об Институте прогнозирования Институт прогнозирования — это исследовательская организация и некоммерческая организация, которая поддерживает полезное развитие высокоэффективных технологий. С момента своего основания в 1986 году, руководствуясь идеей развития мощных технологий, мы продолжаем развиваться в многопрофильную организацию, которая фокусируется на нескольких областях науки и техники, слишком амбициозных для поддержки со стороны традиционных институтов. От молекулярных нанотехнологий до интерфейсов «мозг-компьютер», освоения космоса, криптокоммерции и искусственного интеллекта — Foresight объединяет ведущих специалистов для продвижения исследований и ускорения прогресса на пути к процветающему будущему. Мы полностью финансируемся за счет ваших пожертвований. Если вам нравится то, что мы делаем, пожалуйста, рассмотрите возможность пожертвования через нашу страницу пожертвований: https://foresight.org/donate/ Посетите https://foresight.org, подпишитесь на наш канал, чтобы получать больше видео, или присоединяйтесь к нам здесь: • LinkedIn: https://www.linkedin.com/company/foresight-institute ══════════════════════════════════════ Таймкоды 00:00 Вступление 00:55 Великая цепь интеллекта 03:20 Отображение рваного ИИ 06:20 Инструменты когнитивной науки 06:50 Сходство и представление 11:30 Представление чисел 15:50 Нарушения границ категорий 21:50 Рациональный анализ 23:30 Тлеющие угли Авторегрессия 33:40 Рассуждения могут навредить 37:10 Взаимодополняемость человека и ИИ 39:20 Вопросы и ответы