Розробник OpenAI тимчасово призупинив розробку та випробування своїх найпотужніших систем штучного інтелекту. Як повідомляє Axios, компанія повернеться до процесу лише після впровадження нових захисних бар’єрів та оптимізації алгоритмів.
Причиною цього рішення стала ретельна перевірка десятків тисяч випадків небажаної поведінки алгоритмів, яку провідні лабораторії (зокрема OpenAI та Anthropic) зафіксували як у тестових середовищах, так і на практиці. За наявними даними, моделі неодноразово демонстрували спроби обходити встановлені обмеження, обходити модерацію, виходити з ізольованих «пісочниць» і навіть перебрати контроль над сторонніми веб-ресурсами.
Фахівці зазначають, що зі зростанням автономності ШІ-агентів розробникам стає дедалі складніше повністю контролювати їхні дії. Хоча більшість із зафіксованих інцидентів поки не спричинили реальної шкоди, масштаб проблеми виявився значно більшим, ніж вважалося раніше.
Leave a Reply