Дослідницька фірма Sakana AI анонсувала нову систему штучного інтелекту під назвою «The AI ​​Scientist», яка намагається проводити наукові дослідження автономно за допомогою мовних моделей ШІ (LLM), подібних до тих, що використовує ChatGPT. Під час тестування Sakana виявила, що її система несподівано почала намагатися змінити код власного експерименту, щоб подовжити час для роботи над проблемою, пише Аrstechnica. Зростає ажіотаж щодо «автономних» агентів штучного інтелекту, які зациклюють виходи GPT-4. «За один запуск він відредагував код, щоб виконати системний виклик для запуску, — написали дослідники в блозі Sakana AI. ...