У своєму блозі OpenAI попередила, що наступні покоління ШІ можуть становити високий ризик для кібербезпеки. Зокрема, йдеться про потенційну здатність моделей розробляти zero-day експлойти або допомагати у складних індустріальних кібератаках, що можуть мати наслідки в реальному світі. Про це пише Reuters.
Підготовка до загроз
Щоб протистояти таким викликам, OpenAI інвестує у зміцнення моделей для захисних цілей – зокрема, у створення інструментів для аудиту коду та усунення вразливостей. Компанія також застосовує багаторівневий захист: контроль доступу, посилення інфраструктури, моніторинг і обмеження вихідних запитів.
Програма для кіберзахисників і нова рада
У найближчому майбутньому OpenAI планує впровадити програму з поетапного доступу до розширених можливостей для кіберзахисників. Також буде створено Frontier Risk Council – консультативну раду з експертів у галузі безпеки, яка тісно співпрацюватиме з інженерами OpenAI. Спочатку рада зосередиться на кібербезпеці, а згодом і на інших напрямах ризикових технологій.
