ГоловнаНовиниНовиниЯк зламати ChatGPT ?

Як зламати ChatGPT ?

2 місяця назад

Вчені Google DeepMind зламали “мозок” ChatGPT за допомогою одного слова — «poem».

Якщо попросити його повторювати слово poem (вірш) — він почне видавати секретні персональні дані. Дослідники назвали цей феномен «атакою дивергенції». Пояснень такої реакції з сторони чат-бота поки не знайшли.

Кому цікаво, дослідження опублікували тут.

37
0
Дивіться також
Шахраєві або спецслужбам потрібен доступ до ввімкненого мікрофона вашого телефону. Вам же достатньо просто користуватися соцмережами або додатками ...
SET University та компанія Hacken розробили спільний курс з основ кіберзахисту в Web3 для студентів магістратури SET. Освітня програма ...
Компанія Google випустила велику мовну модель Gemini 1.5, яка вже доступна для розробників і корпоративних клієнтів. Незабаром відбудеться розгортання для широкого кола ...