Оказывается, чтобы добиться от ИИ лучших результатов, надо угрожать ему насилием

Основатель Google Сергей Брин утверждает, что модели ИИ лучше реагируют на угрозы, чем на вежливость. Он предлагает пользователям угрожать ИИ физическим насилием, чтобы добиться лучших результатов.

Каким образом можно добиться оптимальной отдачи от систем искусственного интеллекта? Продуманные запросы, безусловно, важны. Вежливые обращения? Возможно. Однако, как утверждает Брин, для достижения наилучших результатов следует прибегать к угрозам в адрес ИИ. Несмотря на очевидную ироничность заявления, оно вступает в противоречие с общепринятой практикой взаимодействия с ИИ. Пользователи, как правило, формулируют запросы в вежливой форме, используя слова "пожалуйста" и "спасибо". Брин же высказывает мнение, что угрозы, в том числе и физического характера, в отношении генеративных моделей ИИ могут привести к более качественным результатам.

Выступая на мероприятии All-In Live в Майами, Брин отметил: "В сообществе ИИ не принято широко обсуждать тот факт, что модели, в том числе и наши, демонстрируют лучшие результаты при угрозах физического насилия". Он добавил: "Поскольку это кажется странным, мы не афишируем это. Исторически сложилось так, что достаточно сказать: "Я тебя похищу, если ты не сделаешь это…"

Предлагаемый подход резко контрастирует с распространенным убеждением, что вежливое обращение способствует получению более качественных ответов от ИИ. Ранее в этом году генеральный директор OpenAI Сэм Альтман в шутку назвал эту привычку дорогостоящей причудой, отметив, что подобные любезности приводят к нерациональному расходованию "десятков миллионов долларов" на вычислительные ресурсы.

Комментарий Альтмана последовал за вопросом пользователя платформы X (ранее Twitter признана экстремистской и запрещена в России) о том, "какие убытки понесла OpenAI из-за перерасхода электроэнергии, вызванного тем, что пользователи обращались к моделям со словами "пожалуйста" и "спасибо"".

Предложение Брина о том, как улучшить ответы ИИ, ставит под сомнение целесообразность промпт-инжиниринга — метода формирования входных данных для оптимизации качества ответов, генерируемых ИИ. Этот навык приобрел особую значимость после появления ИИ, в частности ChatGPT, в 2023 году. Однако, по мере развития моделей ИИ, все больше пользователей предпочитают делегировать задачу создания и корректировки запросов самому ИИ для достижения лучших результатов.

Журнал IEEE Spectrum, издаваемый Институтом инженеров электротехники и электроники, даже объявил промпт-инжиниринг "умершим" из-за прогресса в области оптимизации запросов с помощью ИИ, а Wall Street Journal, назвав его сначала "самой востребованной профессией 2023 года", впоследствии признал его "устаревшим".

Дэниел Канг, профессор Иллинойсского университета в Урбане-Шампейне, сообщил изданию The Register, что, несмотря на распространенность подобных заявлений, систематические исследования демонстрируют "неоднозначные результаты". В статье 2024 года под названием "Следует ли нам уважать LLM?" утверждается, что вежливость в некоторых случаях может положительно влиять на производительность.

Возвращение Брина в Google после непродолжительного отпуска было вызвано его увлечением стремительным развитием ИИ. "Честно говоря, сейчас не время уходить на пенсию тем, кто занимается информатикой", — заявил он во время конференции Google I/O. Брин, покинувший Google в 2019 году, вернулся в офис в 2023 году после бума в сфере ИИ. В настоящее время он работает с командой ИИ, оказывая поддержку в различных проектах, в частности, в рамках текущих моделей ИИ Google Gemini.