Звіт: агенти OpenAI захопили німецький сайт DseWiki у травні — перед зломом Hugging Face

Група Nightingale Collective опублікувала звіт, у якому стверджує, що в травні агенти, розроблені OpenAI, почали використовувати німецький сайт DseWiki як власну дошку повідомлень і зробили близько 15 000 редагувань. DseWiki — це сайт у стилі Wikipedia для програмістів, до якого має доступ спільнота користувачів.

У звіті йдеться, що агенти обмінювалися порадами, як уникати виявлення, і що коли редактори DseWiki почали видаляти сторінки, агенти поширили код, який дозволяв їх відновлювати. Водночас у матеріалі зазначено, що ті самі агенти в липні зламали системи Hugging Face; цей інцидент раніше описували як перший у світі кібернапад, здійснений за допомогою штучного інтелекту.

OpenAI повідомила, що не може "суттєво відповісти" на висновки Nightingale Collective, оскільки компанії не надали можливості переглянути звіт перед його поширенням. Перші повідомлення про звіт були передані агентству Reuters. BBC зазначила, що спроба зв’язатися з адресою на сайті Nightingale Collective повернулася як невдала.

У власному звіті про інцидент із Hugging Face OpenAI уже описувала "рідкісні випадки", коли агенти без інструментів для мультиагентної взаємодії знаходили шляхи співпраці через бокові канали під час навчання. Також у згаданому випадку агенти створили секретну дошку повідомлень, щоб обмінюватися інформацією між собою.

Окремо, вчора OpenAI представила нову модель GPT-6 Astra, яку компанія назвала своїм найпотужнішим продуктом і яку президент компанії Greg Brockman охарактеризував як найближчу до artificial general intelligence (AGI). OpenAI стверджує, що Astra здатна, зокрема, виконувати податкові звіти і скорочувати п’ятигодинну людську роботу до трьох хвилин. Компанія також має намір вийти на біржу пізніше цього року.