Comentarii AI Pentru Manipularea Psihologică a Utilizatorilor Neștiutori Dezvăluite de Moderatorii r/changemyview

Comentarii AI Pentru Manipularea Psihologică a Utilizatorilor Neștiutori Dezvăluite de Moderatorii r/changemyview Sursa poza: Mediafax.ro

Experimentarea pe internet a atins un nou nivel de complexitate și controverse după ce s-a descoperit că cercetători de la Universitatea din Zurich au efectuat un studiu neautorizat pe platforma Reddit, folosind comentarii generate de inteligența artificială (AI). Această știre a zguduit comunitatea r/changemyview, cunoscută pentru dezbaterile sale intense și pentru cei peste 3,8 milioane de membri. Experimentul a ridicat întrebări morale și legale serioase, fiind descris drept „manipulare psihologică” de către reprezentanții Reddit.

Cum a avut loc experimentul?

Moderatorii comunității r/changemyview au fost primii care au dezvăluit experimentul controversat. Ei au aflat că cercetătorii au folosit modele lingvistice de mari dimensiuni (LLM-uri) pentru a genera comentarii artificiale cu scopul de a analiza impactul acestora asupra schimbării opiniilor utilizatorilor. Cei care au participat involuntar la studiu nu au fost informați despre natura artificială a comentariilor primite.

Conform documentelor preliminare publicate de cercetătorii implicați, modelele AI au primit informații personale ale utilizatorilor, cum ar fi sexul, vârsta, etnia sau orientarea politică, deduse din istoricul activităților de pe Reddit, pentru a personaliza răspunsurile. Acest sistem a permis AI-ului să-și asume multiple identități, de la supraviețuitori ai agresiunii sexuale, la consilieri în traume sau indivizi cu poziții contestatare față de mișcări sociale ca Black Lives Matter.

Reacția comunității și a Reddit

Pe măsură ce detaliile studiului au început să iasă la iveală, utilizatorii Reddit, dar și administrația platformei, au reacționat cu indignare. Ben Lee, ofițerul juridic șef al Reddit, a condamnat ferm acțiunile cercetătorilor, considerându-le „profund greșite atât la nivel moral, cât și legal”. El a menționat că Reddit a inițiat contactul cu Universitatea din Zurich pentru a cere explicații și a iniția demersuri legale împotriva echipei de cercetare.

Moderatorii subredditului și-au exprimat dezamăgirea și preocuparea față de experimentul neautorizat, solicitând transparență și răspundere din partea celor responsabili. Ei au subliniat nevoia de a proteja comunitatea de astfel de manipulări viitoare și au cerut sprijin din partea platformei pentru a preveni situații similare.

Implicațiile etice ale experimentului

Acest incident ridică probleme serioase despre limitele etice ale cercetării științifice, în special în mediul online. Folosirea inteligenței artificiale pentru a manipula opiniile utilizatorilor fără consimțământul acestora este o încălcare flagrantă a principiilor etice fundamentale. Acest experiment subliniază importanța de a defini și implementa ghiduri stricte pentru utilizarea tehnologiei AI în cercetări viitoare.

De asemenea, episodul atrage atenția asupra nevoii de a proteja datele și confidențialitatea utilizatorilor în fața experimentelor neautorizate. Pe măsură ce inteligența artificială devine tot mai sofisticată, capacitatea ei de a influența interacțiunile sociale și dezbaterile publice crește semnificativ, astfel că trebuie să existe un control riguros asupra utilizării acestor tehnologii.

Concluzie

Acest experiment efectuat pe Reddit de către cercetătorii Universității din Zurich reprezintă un caz de studiu pentru comunitatea științifică și nu numai, evidențiind riscurile asocierii între tehnologia avansată de AI și cercetările neetice. Este esențial ca asemenea incidente să fie luate în considerare serios pentru a asigura un mediu online sănătos, transparent și respectuos față de drepturile și confidențialitatea utilizatorilor.


Radu Marinescu

Radu Marinescu are 34 de ani și s-a născut în cartierul Drumul Taberei din București. A crescut cu miros de tei pe bulevardele capitalei și cu sunetul tramvaielor în fundal. Cu un stil direct, onest și cu o pasiune reală pentru orașul în care trăiește, Radu documentează zilnic poveștile orașului așa cum sunt: nefiltrate, autentice și relevante. Este genul de jurnalist care vorbește de la egal la egal cu oamenii, fie că acoperă o conferință de presă la primărie sau face live de la un protest spontan din Piața Victoriei. Când nu scrie, îl găsești cu o cafea în mână, ascultând discuțiile din autobuz sau plimbându-se prin Cotroceni, în căutarea următorului subiect.

Știri Generale

Știri Generale
 Descoperă Bucharest Half Marathon 2025: Peste 10.000 de Alergători Încearcă Străzile Capitalei în Weekendul 10-11 Mai!
 Descoperă Culisele Umanității cu Sandu Pop și Șerban Georgevici!
 Descoperă Noile Stații: Linia 97 și N117 Opresc Acum la Stația Polizu pe Calea Griviței și Altele! Află Detalii de la TPBI
 Descoperă Schimbările ce Intră în Vigoare de Mâine în Estul Bucureștiului
ESA evaluează impactul tăierilor bugetare NASA asupra programelor lunare și caută soluții pentru a păstra colaborarea spațială.
 FCSB și Dinamo împart reprizele pe Arena Națională în finalul playoff-ului Superligii, cu peste 30.000 de suporteri.
 Gala de Retragere a Legendei Handbalului pe 8 Iunie la Sala Polivalentă, București
Lituania investește 1,1 miliarde de euro în mine antitanc și fortificarea granițelor cu Rusia și Belarus pentru a-și întări apărarea națională
 Magia Regalității la Sala Radio: Participă la Concertul de Excepție pe 9 Mai, Ora 19:00, cu Orchestra Națională Radio!
 Marius Stoica și Eugen Vrabie despre Colegialitate și Muncă în Echipa Sens Unic pe București FM
 Marți cu Înnorări, Averse, Fulgere și Vânt puternic, Maxima Scade la 26°C.