Безопасность ИИ — это просто алхимия? Философ читает «Если кто-то это построит», гл. 11

12+
12+

2 дня назад

ПожаловатьсяНарушение авторских прав
12+
12+

2 дня назад

ПожаловатьсяНарушение авторских прав
12+
12+

2 дня назад

Безопасность ИИ — это наука или алхимия? В 11-й главе книги «Если кто-то это построит, все умрут» Элиэзер Юдковски и Нейт Соарес утверждают, что люди, стремящиеся к сверхинтеллекту, не понимают, что делают, и что не стоит ставить на кон существование человечества, полагаясь на алхимиков. Если в 10-й главе говорится, что мы противостоим Монстарам, то в 11-й главе говорится, что у нас есть только «Луни Тюнз». (Если только мы не сможем заставить Эм-Джей работать над выравниванием?) В этом видео я переосмысливаю основной аргумент главы, разбираю его по разделам и излагаю свою точку зрения как аналитический философ. В ЭТОМ ВИДЕО • Основной аргумент, по предпосылке за предпосылкой • Турнир алхимика: свинец превращается в золото, на кону стоит весь родной город • Почему Илон Маск и Ян Лекун оказались в числе тех, кого выделили • Сценарий о безопасности ракет • Супервыравнивание: может ли ИИ помочь выравниванию ИИ? Слабая и сильная версии • Мой ответ МОЕ МНЕНИЕ В главе поднимаются два важных вопроса. Нам необходимо доверять компетентности людей, работающих над сложными проблемами, которые затрагивают всех нас. Использование ИИ для решения проблемы выравнивания представляет собой настоящую дилемму. Но аргумент против этой области основан на двух людях и некоторых устаревших цитатах. В сценариях шесть страниц посвящены основным моментам. А аргумент «где же возмущение?» сводится к принципу «орёл — я выигрываю, решка — ты проигрываешь». Я также рассматриваю новые работы по интерпретируемости (статья Каммараты «Нейронные сети уже чисты») и объясняю, почему я по-прежнему считаю, что гибель ИИ маловероятна. Я согласен с авторами по поводу согласия: если руководители лабораторий, такие как Дарио Амодей, действительно считают, что риск настолько высок, трудно понять, как они могут оправдать продолжение работы. И да, мы сходимся во мнении, что не стоит передавать Илону контроль над важными вещами. Это часть моей серии статей по главам на тему «Если кто-то это построит, все умрут». Осталось всего три главы! Безопасность ИИ — это алхимия или наука? Напишите мне в комментариях. КНИГА Если кто-то это построит, все умрут: почему сверхчеловеческий ИИ убьет нас всех, Элиэзер Юдковски и Нейт Соарес (2025) ССЫЛКИ AP об интервью Маска и Такера Карлсона: https://apnews.com/article/elon-musk-tucker-carlson-ai-twitter-chatgpt-24119e28f10e495cf45494318d509096 Каммарата, «Нейронные сети уже чистые»: https://already-clean.goodfire.com/ Онтология объяснена: аналитический философ и онтолог об ИИ и философии. Подпишитесь, чтобы получать больше. #БезопасностьИИ #Философия #ИскусственныйИнтеллект

Название:

Безопасность ИИ — это просто алхимия? Философ читает «Если кто-то это построит», гл. 11

Категория:

Разное