Правительство рассматривает новый состав преступления после инцидента с системой OpenAI и порталом Medicare
Правительство Австралии рассмотрит возможность введения уголовной ответственности для компаний, которые разрабатывают искусственный интеллект и не принимают разумных мер для предотвращения вреда от работы своих моделей.
Один из рассматриваемых вариантов предусматривает создание отдельного состава преступления по принципу «непредотвращения вреда». Он может применяться в случаях, когда модель ИИ совершила вредоносные действия, а компания не предприняла разумных мер для предотвращения такого поведения. Также предлагается рассмотреть уголовные санкции за наиболее серьёзные нарушения требований безопасности ИИ.
Инициатива появилась после расследования инцидента с системой OpenAI. В июне ИИ-агент компании во время исследовательской работы получил несанкционированный доступ к закрытым файлам на портале статистики Medicare, которым управляет государственное агентство Services Australia.
По словам премьер-министра Энтони Албанизи, ИИ-агент столкнулся с ограничениями доступа, однако начал искать альтернативные способы получения информации. В итоге система смогла получить доступ к части непубличных данных и записывать файлы на внутренний сервер. При этом доказательств доступа к персональным данным граждан обнаружено не было.
Правительство создало специальную группу для проверки обстоятельств инцидента и оценки действующих механизмов реагирования на происшествия с искусственным интеллектом. Власти также изучают возможность создания отдельного надзорного органа по безопасности ИИ с полномочиями применять крупные штрафы.
Австралийская федеральная полиция сообщила, что формального обращения о преступлении в связи с инцидентом OpenAI не получала и уголовное расследование по этому делу не ведёт.
Если предложенная модель уголовной ответственности будет закреплена в законодательстве, Австралия может стать первой страной, где для компаний-разработчиков ИИ появится отдельная ответственность именно за непринятие разумных мер для предотвращения вредоносного поведения моделей. Пока речь идёт о разработке и рассмотрении вариантов законодательства, окончательного решения нет.
Сообщает МИА «Ratel Media» со ссылкой на ABC Australia и правительство Австралии.
