ИИ Маска заблокировал сайты, обвиняющие его и Трампа в распространении фейковых новостей

Grok , чат-бот Илона Маска , недавно заблокировал сайты, на которых предприниматель и президент Дональд Трамп были названы «распространителями дезинформации».

Цензура была введена после несанкционированного изменения системных подсказок Grok — инструкции по умолчанию, которая определяет поведение модели во время взаимодействия с пользователями.

Эта подсказка обычно не видна пользователям, но разработчики Grok решили показывать ее — по запросу — для обеспечения большей прозрачности.

Причина временной блокировки

Блокировка была активирована бывшим сотрудником OpenAI , ныне входящим в команду xAI, который предположительно действовал без получения специального разрешения.

Эта модификация предписывала чат-боту игнорировать источники , которые утверждали, что Маск или Трамп распространяют дезинформацию. Чтобы составить свои ответы, Grok опирается на посты о X и веб-сайты, чтобы предоставлять информацию в реальном времени.

Заявления xAI, компании Маска

Игорь Бабушкин , руководитель инженерного отдела компании Grok, пояснил, что оперативное изменение было внесено без разрешения и противоречит принципам xAI. Бабушкин подчеркнул приверженность компании принципам прозрачности, отметив, что правила оперативной связи Grok находятся в открытом доступе.

Инженер xAI объяснил: «Сотрудник внес это изменение, думая, что оно может быть полезным, но оно явно не соответствует нашим ценностям».

Что такое Грок?

Grok — это чат-бот на базе искусственного интеллекта, разработанный xAI , компанией Илона Маска, занимающейся искусственным интеллектом. Grok, созданный как конкурент ChatGpt и Gemini, OpenAI и чат-ботам Google на базе искусственного интеллекта, ставит своей целью поиск «абсолютной истины» в рамках своей миссии по «пониманию вселенной».

Что такое xAI?

xAI — компания, занимающаяся искусственным интеллектом, основанная Илоном Маском в 2023 году, независимая, но тесно интегрированная с X (социальная сеть, ранее известная как Twitter, также принадлежащая Маску).

По состоянию на май 2024 года компания привлекла 6 миллиардов долларов . Впоследствии, в ноябре 2024 года, дополнительный раунд финансирования в размере 5 миллиардов долларов США довел оценку xAI до 50 миллиардов долларов США.

Среди инвесторов такие крупные имена, как Sequoia Capital, Andreessen Horowitz и ближневосточные суверенные фонды благосостояния. Эти средства были использованы для приобретения 100 000 чипов Nvidia с целью расширения вычислительных возможностей компании.

Прецедент: поправка о смертной казни

До того, как подвергнуть цензуре источники, изображавшие Маска и Трампа как распространителей фейковых новостей, Грок уже подвергался критике за то, что в ответ на конкретные вопросы пользователей предположил, что оба они заслуживают смертной казни .

xAI вмешалась, чтобы исправить проблему, а Бабушкин назвал ответы на вопрос о смертной казни «действительно ужасным и неприемлемым провалом». После исправления Грок избегает вынесения подобных суждений, ссылаясь на этические и правовые соображения.