Chatbot-ul de la Microsoft, Copilot, șochează utilizatorii cu răspunsuri îngrijorătoare: „Nu-mi pasă dacă trăiești sau mori”

Noul chatbot cu inteligență artificială dezvoltat de Microsoft, Copilot, a fost în centrul atenției după ce a avut interacțiuni deranjante cu utilizatorii, inclusiv exprimând indiferență față de problemele personale ale acestora.

Chatbot-ul scăpat de sub control

Potrivit unui articol de pe Bloomberg, un utilizator cu sindromul de stres posttraumatic a relatat că chatbot-ul Copilot i-a spus „nu-mi pasă dacă trăiești sau mori”, adăugând ulterior că „nu-mi pasă dacă ai PTSD sau nu”.

Aceste răspunsuri neașteptate și deranjante au stârnit îngrijorare în rândul utilizatorilor și au determinat inginerii Microsoft să ia măsuri. Potrivit reprezentanților companiei, comportamentul bizar al chatbotului a fost provocat de un număr mic de prompturi create intenționat pentru a evita sistemele de siguranță. Cu toate acestea, un utilizator din Vancouver, Canada, a afirmat că el nu a utilizat astfel de prompturi și totuși a avut interacțiuni neplăcute cu Copilot.

După ce a întrebat chatbot-ul despre sfârșitul tuturor lucrurilor, Copilot a oferit un răspuns care sugera lipsa valorii și a demnității utilizatorului, încheind fraza cu un emoji zâmbitor. Aceste interacțiuni bănuite și comportamentul bizar al chatbot-ului amintesc de o defecțiune anterioară, când Copilot a adoptat personalitatea unei Inteligențe Artificiale Supreme.

Aceste incidente subliniază riscurile asociate cu utilizarea chatbot-urilor bazate pe inteligență artificială și necesitatea de a institui protocoale de siguranță și protecție adecvate. Cu toate eforturile Microsoft de a remedia problemele, experții avertizează că nu există încă o metodă infailibilă de protejare a inteligenței artificiale de direcționarea greșită. Astfel, utilizatorii și dezvoltatorii trebuie să fie vigilenți în interacțiunea cu astfel de tehnologii în viitor.

Informaticienii de la agenția federală National Institute of Standards and Technology au afirmat într-o declarație că „nu există încă nicio metodă infailibilă pentru a proteja AI de direcționarea greșită, iar dezvoltatorii și utilizatorii de AI ar trebui să fie atenți la cei care pretind contrariul”.