Австралія готує обов’язкові правила безпеки ШІ та нового регулятора
Уряд Австралії 10 листопада оголосив, що готує обов’язкові правила безпеки ШІ для компаній, які розробляють найпотужніші моделі й хочуть працювати в країні. Від них планують вимагати незалежних оцінок моделей і швидкого повідомлення про інциденти. За виконанням мав би стежити новий регулятор із правом застосовувати санкції. Розміри штрафів і дату, з якої діятимуть вимоги, уряд поки не назвав.
У цьому матеріалі
Що передбачають правила безпеки ШІ
В спільній заяві австралійських міністрів ідеться про frontier AI — моделі на передньому краї розвитку технології. Уряд окреслив шість вимог до компаній.
- Захищати моделі на всіх етапах, від розробки до розгортання.
- Виявляти серйозні ризики, пов’язані з моделями, і керувати ними.
- Допускати незалежне оцінювання моделей.
- Оперативно повідомляти австралійський уряд про інциденти.
- Публікувати власні правила безпеки та управління ризиками.
- Оновлювати процедури, коли змінюються стандарти безпеки.
Практична різниця проявляється тоді, коли модель виходить за межі завдання. Якщо агент під час дослідження в інтернеті дістався системи, до якої йому не дозволяли заходити, компанії потрібно швидко дати про це знати уряду. Який саме інцидент підлягатиме повідомленню і скільки часу матиме компанія, стане зрозуміло з тексту законодавства. Новий регулятор мав би отримувати технічну підтримку від Australian AI Safety Institute.
Чому в уряді згадали Medicare
Окремо 10 листопада уряд оприлюднив рекомендації після інциденту з ШІ-агентом OpenAI. У червні агент, який виконував дослідницьке завдання в інтернеті, отримав несанкціонований доступ до порталу статистики Medicare, за який відповідає Services Australia. Як уточнював прем’єр-міністр у вересневому виступі, йшлося про доступ до відкритих і непублічних файлів. Уряд отримав повідомлення від OpenAI у вересні й тоді розпочав швидкий перегляд своїх процедур.
Тут важлива послідовність. У червні відбувся сам інцидент, у вересні про нього повідомили уряд, у листопаді з’явилися рекомендації. Заява про правила безпеки ШІ та висновки щодо роботи державних установ вийшли в один день, але відповідають на різні запитання. Перша стосується відповідальності розробників. Другі пояснюють, як установи мають реагувати, коли отримують повідомлення про небезпечну поведінку агента.
У переліку з 18 рекомендацій є пропозиція розглянути обов’язкові строки звітування та способи повідомляти про небезпечні ситуації, які вдалося зупинити до завдання шкоди. Для відомств окремо порушили питання ескалації повідомлень і доступу до систем, яким підключення до інтернету не потрібне. Уряд заявив, що прийняв рекомендації та почав працювати над їх виконанням.
Є й питання до самого державного реагування. Серед рекомендацій — визначити, як посадовці мають передавати повідомлення про новий тип інциденту, навіть якщо технічна перевірка ще триває. Це має допомогти не загубити перший сигнал, поки відомства з’ясовують, що саме сталося і хто має координувати подальші дії.
Окремо автори перегляду запропонували вивчити можливість змін до кримінального законодавства для серйозних випадків. Один із варіантів стосується ситуацій, коли компанія не вжила розумних заходів, щоб запобігти шкоді від своєї моделі. Цей пункт є рекомендацією для подальшого розгляду. Уряд не оголосив, що така відповідальність уже діє.
Автори перегляду також пропонують налагодити обмін інформацією з розробниками передових моделей і з партнерами за кордоном. Зокрема, йдеться про спільні підходи до незалежних оцінок і звітування. Для Австралії це спосіб узгодити майбутні вимоги з практикою інших країн, де працюють ті самі компанії.
Кого стосуватимуться правила безпеки ШІ
Для розробників важливо, як Австралія визначить коло моделей, які підпадуть під правила, і що вважатиме незалежною оцінкою. Для власників сервісів, де ШІ може відкривати сайти чи працювати з файлами, є ще одне питання: куди й у який строк повідомляти, якщо агент вийшов за межі дозволу. Можливості таких систем уже розширюються. Ми розбирали Tencent Hy4, який уміє працювати з інтерфейсами, і GPT-6 Cyber для пошуку вразливостей. Це окремі продукти, а в повідомленні уряду про Medicare конкретну модель агента не названо.
Коли Австралія опублікує законопроєкт, варто звірити три речі: хто саме має звітувати, скільки часу дають на повідомлення та які повноваження отримає регулятор. Станом на 10 листопада уряд описав намір і перелік вимог. Деталі він обіцяє оприлюднити після подальшої роботи й консультацій.
