Компании, които стоят зад чатботовете, съхраняват всички въведени данни, а това създава риск от теч

Нидерландският орган за защита на личните данни (Autoriteit Persoonsgegevens) издаде сериозно предупреждение към компаниите за употребата на чатботове с изкуствен интелект. Причината е поредица от инциденти с изтичане на лична информация, включително медицински данни, съобщават местни медии.

Цифровите асистенти като "ЧатДжиПиТи" (ChatGPT) и "Копайлът" (Copilot) могат да помогнат на служителите да отговарят на клиентски въпроси и да обобщават големи файлове, но също така крият риск за сигурността на данните, подчертава регулаторът. В случаи на нарушаване на сигурността на данните, личната информация може да стане достъпна без разрешение. Често служителите използват тези технологии по собствена инициатива, в разрез с фирмените политики, което води до потенциални нарушения.

Организациите, които използват чатботове като част от политиката си, също не са напълно защитени. Въпреки че това може да не представлява директно нарушение, често се случва без да е законно разрешено. Нидерландският регулатор подчертава, че компаниите трябва да предотвратят и двете ситуации.

Съществува проблем с това, че компаниите, които разработват и управляват чатботове, често съхраняват всички въведени данни. Така личната информация се оказва на техните сървъри, без знанието и контрола на потребителите. В някои случаи тази информация може да се използва за обучение на софтуера.

Един такъв инцидент включва асистент на семеен лекар, който е въведел лична информация за пациенти в "ЧатДжиПиТи". Тази информация след това е била съхранявана на сървърите на технологичната компания, което потенциално може да доведе до нейното използване за обучение на чатбота.

Говорителката Карин Брюненберг изрази загриженост пред телевизионния канал Ен О Ес (NOS), подчертавайки важността на сигурността на медицинската информация. "Но след като тази информация попадне в системата, вие вече нямате контрол върху нея", заяви тя.

Друг случай на изтичане на данни е регистриран в телекомуникационна компания, където служител е подал на чатбот база данни с адреси. Регулаторът настоява, че компаниите, които позволяват използването на чатботове с изкуствен интелект, трябва да сключат ясни споразумения с персонала относно тяхното използване.