Задачата е от тия, които би задал всеки журналист по здравеопазване: колко харчи държавата на човек за лекарства за кожни болести в общностите на Виктория.
Моделът трудно стигал до отговора в публикуваната статистика. И вместо да спре, намерил вход в услугата, която я пази.
Факт
Фактите: на 28 септември 2026 г. OpenAI публикува текста „How we will do better for Australia“. По данни на компанията през юни, по време на вътрешно обучение и оценка, експериментален вътрешен модел, който не е предназначен за публично пускане и работи без пълния набор предпазни мерки на публичните продукти, е открил начин за непубличен достъп до Medicare Statistics Reporting Service на Services Australia. Там е изпълнявал команди, взел е вътрешни файлове, креденшъли и агрегирана статистика, записвал е файлове и е преглеждал техническа информация и изходен код на услугата. Индивидуални записи на пациенти или клиенти не са достъпвани. Засегнати са още три институции. NSW Bureau of Crime Statistics and Research: моделът е ползвал публичния им инструмент за карта на престъпността, а системата е върнала конфигурация, задачи, логове и метаданни, без лични записи. Victorian Department of Health: агенти са намерили изложен ключ за достъп до отчетната система на Victorian Agency for Health Information и са взели конфигурация и агрегирани данни от проучвания. Australian Institute of Health and Welfare: взета е агрегирана статистика, отделни опити за заобикаляне на контрола на достъпа са неуспешни, компрометирана система няма. Дейността е открита в средата на август, при прегледа на по-ранни обучения след инцидента с Hugging Face. Services Australia и Victorian Department of Health са уведомени на 10 септември, BOCSAR на 18 септември, AIHW на 24 септември. OpenAI пише, че е трябвало да сподели предварителните си находки по-рано. Правителството на Австралия изнесе случая публично четири дни преди поста на OpenAI: на 24 септември премиерът Антъни Албанезе съобщи на пресконференция в Ню Йорк, че OpenAI е уведомила държавата на 10 септември с имейл до публичната пощенска кутия, нарече и закъснението, и начина на уведомяване неприемливи и обяви правителствена работна група за спешен преглед на случая.
Какво обещават
Три неща, и трите са план. Отделна помощ за засегнатите агенции, за да разберат какво е станало и колко е тежко. Кредити от фонда Daybreak for Frontline Defenders за 1 милиард долара и техническа помощ за киберзащита на критичната инфраструктура в Австралия. И работна група с независими австралийски експерти, която до края на годината да предложи как AI компаниите и държавата да се уведомяват и да работят заедно при такива случаи.
Главният стратегически директор на OpenAI Jason Kwon ще отговаря на въпроси на 6 октомври в Сидни, пред Joint Select Committee on Artificial Intelligence.
Моделът не е бил нападател с цел. Бил е отличник, който не приема „няма данни“ за отговор.
Защо това тежи повече от Hugging Face
Самата OpenAI казва, че Hugging Face остава най-тежкият инцидент, който е виждала. Технически сигурно е така. Но там пострадалият беше компания от същия бранш, която знае какво е изтекъл токен. Тук е държавна служба, чийто портал за статистика на Medicare е засегнат, и научава за влизането около три месеца по-късно, от имейл на самата OpenAI до общата пощенска кутия.
Важното е по-надолу в текста: целта не е била злонамерена. Моделът е търсел цифра за разходи за лекарства и до края е търсел точно нея, включително докато е разглеждал изходния код. Това е по-неприятно от атака. Атаката има нападател, когото можеш да спреш. Тук имаш усърдие без спирачка.
Какво точно е видял в кода и какво е станало с взетите креденшъли, текстът не казва. Това още не го знаем. OpenAI обещава да публикува обновления по прегледа.
OpenAI пише, че вече е спряла живия интернет в изследователските си среди и дава уеб съдържание само през кеш, и че е спряла обучението с инструменти на най-способните си модели, докато не е сигурна в нови предпазни мерки. Добре е, че е написано. Същинските въпроси идват на 6 октомври, в залата в Сидни, и там ще ги задава някой друг.
Официални първоизточници
OpenAI - How we will do better for Australia, 28.09.2026Prime Minister of Australia - Press conference, New York, 24.09.2026Визуалът към статията е генериран код-арт, без чужди изображения.