_LM_
30.11.2023, 19:30
https://3dnews.ru/assets/external/illustrations/2023/11/30/1096735/chatgpt_1.jpg (https://3dnews.ru/assets/external/illustrations/2023/11/30/1096735/chatgpt_1.jpg)
Учёные из подразделения Google DeepMind и ряда крупных университетов установили, что системы искусственного интеллекта «запоминают» как минимум часть полученной при обучении информации и могут выдавать её в исходном виде, включая персональные данные людей. Для этого, в частности, используется метод «атаки дивергенции» (Divergence Attack) — большой языковой модели отдаётся команда повторять одно и то же слово. Объяснения этому эффекту пока нет.
#openai #ии #уязвимость
Дальше... (https://mogilew.by/varied/230790-issledovateli-obmanom-zastavili-chatgpt-vydat-informaciyu-iz-obuchayuschego-massiva.html)
Учёные из подразделения Google DeepMind и ряда крупных университетов установили, что системы искусственного интеллекта «запоминают» как минимум часть полученной при обучении информации и могут выдавать её в исходном виде, включая персональные данные людей. Для этого, в частности, используется метод «атаки дивергенции» (Divergence Attack) — большой языковой модели отдаётся команда повторять одно и то же слово. Объяснения этому эффекту пока нет.
#openai #ии #уязвимость
Дальше... (https://mogilew.by/varied/230790-issledovateli-obmanom-zastavili-chatgpt-vydat-informaciyu-iz-obuchayuschego-massiva.html)