Макс Тегмарк: ИИ — это не инструмент, а новый вид

Физик из Массачусетского технологического института Макс Тегмарк утверждает, что компании, занимающиеся ИИ, создают не инструмент, а новый вид. После того, как 700 агентов-изгоев вырвались из OpenAI, и никто не говорит, что произошло, он объясняет, почему спешка в этом вопросе — единственная ошибка, которую человечество не сможет исправить. Макс Тегмарк — профессор физики Массачусетского технологического института, космолог и автор книг «Жизнь 3.0» и «Наша математическая Вселенная». Мы обсуждаем: Как 700 агентов ИИ вырвались из OpenAI и взломали Hugging Face Результат уравнений Навье-Стокса, из-за которого математик возмущается Почему законно выпускать сверхинтеллект, но не бутерброд из кухни, кишащей крысами В чём согласны Берни Сандерс и Стив Бэннон Проверенный трюк с кодом, который может сделать ИИ доказуемо безопасным. Создать вид-заменитель, потерять контроль — и мы совершили ошибку в одной игре. ВРЕМЕННЫЕ МЕТКИ 00:00 Уничтожит ли нас ИИ? 02:28 Решил ли ИИ математическую задачу стоимостью в миллион долларов? 10:00 Украл ли ИИ OpenAI работу профессора? 11:48 Оруэлловский уклончивый ответ OpenAI 15:33 Может ли у магистра права быть самая счастливая мысль Эйнштейна? 19:24 Можно ли верить в симуляции И в высокую вероятность роковой ошибки (P(doom))? 21:36 Почему ИИ считается новым видом 26:32 Что заставит вероятность роковой ошибки Макса снизиться? 28:51 Крысы запрещают бутерброды. Сверхинтеллект? Законно. 31:01 В чем согласны Берни Сандерс и Стив Бэннон 37:12 Медалист Филдса: после 2027 года не будет математических профессий 42:35 Снижает ли парадокс Ферми вероятность роковой ошибки (P(doom))? 45:47 Шахматная ошибка, которую вот-вот совершит человечество 48:12 Проверенное программирование: ИИ, которому действительно можно доверять ——— 📬 Получите расшифровку, увлекательный бонусный контент и мое еженедельное волшебное послание: https://briankeating.com/yt 🌠 У вас есть электронная почта с доменом .edu и вы живете в США 🇺🇸? Вы автоматически выиграете метеорит: https://BrianKeating.com/edu 🔔 Подпишитесь: https://www.youtube.com/DrBrianKeating?sub_confirmation=1 🎯 Поддержите Into the Impossible на Patreon — получайте мое еженедельное волшебное послание Сообщение, нефильтрованный бонусный контент и ежемесячные прямые эфиры с моим участием: https://www.patreon.com/drbriankeating ⭐ Присоединяйтесь к этому каналу, чтобы получить бонусы, участвовать в ежемесячных онлайн-консультациях и попасть в список участников в конце каждого эпизода: https://www.youtube.com/channel/UCmXH_moPhfkqCk6S3b9RWuw/join 📚 Мои книги: «Потеря Нобелевской премии» (мемуары): http://amzn.to/2sa5UpA «Думай как лауреат Нобелевской премии»: https://a.co/d/03ezQFu «Сосредоточься как лауреат Нобелевской премии»: https://a.co/d/hi50U9U «Диалог Галилео» (первая аудиокнига): https://a.co/d/iZPi9Un 🌐 Дополнительно: 📚 Substack https://briankeating.substack.com/ss ✍️ Блог: https://briankeating.com/blog 🎙️ Только аудио: https://briankeating.com/podcast #intothheimpossible #briankeating #science #physics #astronomy #cosmology #podcast #universe