ГоловнаНовиниНовиниЯк зламати ChatGPT ?

Як зламати ChatGPT ?

7 місяців назад

Вчені Google DeepMind зламали “мозок” ChatGPT за допомогою одного слова — «poem».

Якщо попросити його повторювати слово poem (вірш) — він почне видавати секретні персональні дані. Дослідники назвали цей феномен «атакою дивергенції». Пояснень такої реакції з сторони чат-бота поки не знайшли.

Кому цікаво, дослідження опублікували тут.

98
0
Дивіться також
Початок робочого дня, ви сідаєте за комп’ютер і очікуєте, що будете продуктивним, виконаєте основні завдання і навіть ще кілька не ...
Почали робити важливий проєкт, а раптом виявили себе на сторінці Вікіпедії про пташку ківі? Чи мали глянути одне корисне відео ...
росіяни влучили ракетою в «Охматдит». Український бізнес розпочав ініціативи, аби допомогти лікарні та постраждалим, внаслідок ракетного обстрілу росіян. ...