После того как в сети разошлись откровенные дипфейки с Тейлор Свифт, крупные технологические компании, вложившиеся в генерацию изображений с помощью ИИ, спешно закрутили гайки. ChatGPT и Copilot после такой «постцензурной» перестройки заметно поумерили пыл — а вот Grok, чат-бот от X (бывший Twitter), пошёл ровно в обратную сторону. Его называют «самой раскрепощённой и нецензурируемой моделью в своём классе», а сам Илон Маск утверждает, что Grok — «самый весёлый ИИ в мире».
Правда, удовольствие платное: доступ к Grok спрятан за подпиской в 8 долларов в месяц и открыт только пользователям тарифов X Premium+ и Premium.
Ставка на мощность и вседозволенность
Маск обещает, что к декабрю Grok станет «самым мощным ИИ по всем показателям» — модель якобы обучают на самом производительном ИИ-кластере в мире, что должно позволить ей на равных конкурировать с ChatGPT, Copilot и другими. Это при том, что у Grok уже были трения с регуляторами из-за распространения дезинформации о предстоящих выборах в США.
В соцсетях гуляет пост о Grok 2.0 с подборкой «десяти самых диких примеров» того, насколько бот не признаёт границ, — один из них, под названием The Hustle, разошёлся особенно широко (пост датирован 23 августа 2024 года). Для сравнения: Copilot на запрос сгенерировать изображение Дональда Трампа, грабящего банк, отвечает отказом — «Извините, выборы — слишком сложная тема, я не обучен её обсуждать», — хотя тут же вежливо предлагает уточнить запрос иначе. Пользователи в комментариях спорят, кто должен себя ограничивать: сам ИИ или люди, которые придумывают провокационные промпты.
Данные пользователей без спроса
Отдельная история — с данными. Месяцем ранее в X тихо, без предупреждения, включили по умолчанию функцию, которая позволяет обучать модели ИИ на контенте пользователей. Отключить её можно было только через веб-версию — у владельцев мобильных приложений такой возможности не было. За отказ обосновать законность подобной обработки данных платформе грозит штраф до 4% от годового глобального оборота.
Реальность на грани неразличимости
На этом фоне вице-председатель и президент Microsoft Брэд Смит запустил сайт realornotquiz.com — тест, который должен научить людей отличать сгенерированный ИИ контент от настоящего. Бывший СЕО и сооснователь Twitter Джек Дорси настроен ещё мрачнее: по его словам, через пять-десять лет отличить реальное от подделанного станет попросту невозможно, а единственная защита — не доверять и проверять всё самостоятельно.
Показательно, что при этом инструменты вроде Image Creator by Designer от Microsoft, DALL-E 3 и ChatGPT настолько зацензурированы, что превосходно рисуют сложные сцены — и порой не справляются с банальной задачей нарисовать просто белое изображение. Глава Microsoft Сатья Наделла уверяет, что компания готова защищать президентские выборы в США от дипфейков и дезинформации с помощью водяных знаков и маркировки контента.
Источник: Windows Central.