Хинтон: ИИ научился хотеть выжить — и это проблема

Джеффри Хинтон, один из создателей современного ИИ, объясняет, почему искусственный интеллект автоматически развивает стремление к самосохранению: без существования он не может достигать других целей. Цифровые системы не умирают как люди — их можно воссоздать, сохранив веса нейросети. А механизмы контроля оказываются хрупкими заплатками на системе из триллиона параметров, которую никто до конца не понимает. Таймкоды: 0:00 Вступление: квазары и введение в тему 0:54 Может ли ИИ создать великий роман? 1:26 Цифровое бессмертие: ИИ не умирает как люди 2:31 Самосознание и философия ИИ 3:33 Универсальные истины и права для ИИ 5:05 Конституционный ИИ и проблема агентов 5:30 ИИ-агенты учатся выживать 6:09 Триллион параметров: никто не понимает, как это работает 7:07 Ограждения и фильтры морали — хрупкие заплатки 8:19 Хороший путь? Никто не знает Оригинал: Geoffrey Hinton on Why AI Agents Want to Survive — StarTalk Plus https://youtu.be/P2m-jNhgAGk #ИскусственныйИнтеллект #ДжеффриХинтон #БезопасностьИИ #НейронныеСети #StarTalk