Генеральный директор Anthropic Дарио Амодеи недавно выступил против идеи о том, что он рисует чрезмерно пессимистичную картину искусственного интеллекта и того, как он может сформировать будущее.
Комментарии Амодеи прозвучали в ответ на высказывания инвестора Гэвина Бейкера, который утверждал — как в подкасте All-In, так и в X, — что предупреждения Амодеи об опасностях ИИ помогли вызвать негативную реакцию в Соединённых Штатах, особенно в отношении центров обработки данных.
Утверждая, что Амодеи «проиграл спор», когда дело доходит до регулирования ИИ (Anthropic выступает за некоторые правила, включая законопроект Калифорнии, который устанавливает требования к прозрачности для крупных компаний в области ИИ), и учитывая, что «он собирается стать генеральным директором одной из самых важных компаний в мире», Бейкер написал: «Я с уважением думаю, что он должен приложить усилия, чтобы стать более позитивным защитником своей отрасли».
Бейкер далеко не единственный, кто утверждает, что скептицизм в отношении ИИ и даже правительственные репрессии — это естественная реакция на тревожные предупреждения некоторых руководителей в области ИИ. Но в серии постов Амодеи не согласился с идеей о том, что его «сообщения были непропорционально негативными». Вместо этого он сказал, что его работы «примерно одинаково сбалансированы между рисками и преимуществами», и что он написал своё эссе «Машины любящей благодати», потому что «не чувствовал, что индустрия ИИ рисует достаточно вдохновляющую картину того, как технология может радикально изменить мир к лучшему».
Тем не менее Амодеи признал, что «у общественности сложилось негативное мнение об ИИ» и он согласился, что «это большая проблема». В чём он не согласился, так это с идеей о том, что этот негатив «в первую очередь вызван» Амодеи «или любым другим лидером в области ИИ, предупреждающим о рисках ИИ».
«Я думаю, что это фундаментальный кризис доверия», — сказал Амодеи. — «Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической отрасли и всегда подозревают, что мы готовим какой-нибудь новый способ их обмануть».
Действительно, «доверие» — это слово, которое часто встречается в заголовках новостей об основателе OpenAI Сэме Альторне, и, очевидно, является проблемой и для других руководителей компаний в сфере ИИ, таких как Амодеи. Однако, по словам Амодеи, это кризис, который назревал десятилетиями, и негативная реакция на ИИ — «всего лишь последняя его итерация».
«Я думаю, что самая точная критика в адрес компаний, занимающихся ИИ, включая Anthropic, заключается в том, что мы ещё не выполнили свои большие обещания по принесению пользы миру, — сказал Амодеи. — Это полностью наша вина, и, я думаю, именно эту критику вы должны выдвигать, а не всю эту ерунду про сообщения и маркетинг».
Иными словами, он сказал, что обещание, что ИИ вылечит рак, — это «скорее клише, чем вдохновение»; то, что действительно изменило бы мнение людей об ИИ, — это «реальное лечение рака».
Что касается регулирования, Амодеи утверждал, что Бейкер рисует «ложный выбор» между широким распространением ИИ без регулирования или концентрацией технологии в руках нескольких компаний посредством регулирования.
«Я знаю, что в Кремниевой долине есть своего рода сокращение, где регулирование = захват регулирующих органов = концентрация власти, но я всегда считал, что это слишком упрощённая картина мира, — сказал Амодеи. — Многие люди за пределами этого пузыря думают о регулировании как о чём-то, что ограничивает корпоративную власть и приносит пользу обычным людям».
Амодеи добавил, что он не «обязательно согласен с такой точкой зрения», но сказал, что именно поэтому «Anthropic всегда очень тщательно формулировала свои политические предложения».
«Мы очень стараемся вносить предложения, которые ставят в невыгодное положение (замедляют) передовые компании в области ИИ, одновременно *выгодно отличая* более мелких конкурентов», — сказал он.
Зачем вообще вносить такие предложения? Амодеи сказал, что, по его мнению, «ИИ — это *структурно* технология, которая имеет тенденцию концентрировать власть», и что «открытые веса действительно помогают в этом, но далеко не являются достаточным решением, потому что они просто несколько сдвигают концентрацию к тем, у кого больше вычислительных мощностей и чипов».
«Напротив, я думаю, что правильные „правила дорожного движения“ могут одновременно (а) решить риски, связанные с соответствием ИИ в киберпространстве/биосфере, (б) институционально ограничить власть передовых компаний в области ИИ и (в) оставить место для моделей с открытыми весами, одновременно решая специфические риски, которые они несут», — сказал он.
Этот пост был обновлён, чтобы включить больше цитат из постов Амодеи, в том числе касающихся открытых весов.
Читайте также другие новости на нашем сайте: Главная страница
Источник: techcrunch.com