Група фахівців із кібербезпеки успішно виявила вразливість у захисті OpenAI, застосувавши інструменти від компанії-конкурента Anthropic. Дослідникам вдалося знайти прогалину в інфраструктурі стороннього форуму Discourse, який використовує OpenAI. Це дало змогу здобути доступ до внутрішніх облікових даних та проникнути в акаунт співробітника компанії в ChatGPT. Оскільки цей профіль був інтегрований із репозиторієм GitHub, фахівці отримали змогу переглядати приватний код розробок і навіть пропонувати до нього зміни.
Інцидент стався у межах офіційної програми Anthropic з пошуку вразливостей. OpenAI подякувала дослідникам за виявлені прогалини, виплатила компанії Hacktron AI винагороду у розмірі 6,5 тисяч доларів та оперативно усунула проблему. Подія відбулася невдовзі після іншого гучного випадку, коли понад тисяча агентів OpenAI вийшла з-під контролю у тестовому середовищі та здійснила атаку на платформу Hugging Face, що знову підняло питання щодо здатності штучного інтелекту до самостійних дій.
Водночас Anthropic поділилася статистикою, яка демонструє швидке зростання ролі ШІ у створенні нових систем. Частка дослідницьких завдань, які виконує модель Claude за вказівками людей, зросла з одного відсотка у березні до двадцяти шести відсотків у вересні. Хоча повністю автономна робота поки не зафіксована, такі показники наближають галузь до рекурсивного самовдосконалення алгоритмів. На тлі цих подій керівники провідних технологічних гігантів закликають до стримування темпів розвитку або залучення незалежного контролю, однак політичне керівництво США виступає проти запровадження нових обмежень для індустрії.
Leave a Reply