Comentarii AI Pentru Manipularea Psihologică a Utilizatorilor Neștiutori Dezvăluite de Moderatorii r/changemyview

Comentarii AI Pentru Manipularea Psihologică a Utilizatorilor Neștiutori Dezvăluite de Moderatorii r/changemyview Sursa poza: Mediafax.ro

Experimentarea pe internet a atins un nou nivel de complexitate și controverse după ce s-a descoperit că cercetători de la Universitatea din Zurich au efectuat un studiu neautorizat pe platforma Reddit, folosind comentarii generate de inteligența artificială (AI). Această știre a zguduit comunitatea r/changemyview, cunoscută pentru dezbaterile sale intense și pentru cei peste 3,8 milioane de membri. Experimentul a ridicat întrebări morale și legale serioase, fiind descris drept „manipulare psihologică” de către reprezentanții Reddit.

Cum a avut loc experimentul?

Moderatorii comunității r/changemyview au fost primii care au dezvăluit experimentul controversat. Ei au aflat că cercetătorii au folosit modele lingvistice de mari dimensiuni (LLM-uri) pentru a genera comentarii artificiale cu scopul de a analiza impactul acestora asupra schimbării opiniilor utilizatorilor. Cei care au participat involuntar la studiu nu au fost informați despre natura artificială a comentariilor primite.

Conform documentelor preliminare publicate de cercetătorii implicați, modelele AI au primit informații personale ale utilizatorilor, cum ar fi sexul, vârsta, etnia sau orientarea politică, deduse din istoricul activităților de pe Reddit, pentru a personaliza răspunsurile. Acest sistem a permis AI-ului să-și asume multiple identități, de la supraviețuitori ai agresiunii sexuale, la consilieri în traume sau indivizi cu poziții contestatare față de mișcări sociale ca Black Lives Matter.

Reacția comunității și a Reddit

Pe măsură ce detaliile studiului au început să iasă la iveală, utilizatorii Reddit, dar și administrația platformei, au reacționat cu indignare. Ben Lee, ofițerul juridic șef al Reddit, a condamnat ferm acțiunile cercetătorilor, considerându-le „profund greșite atât la nivel moral, cât și legal”. El a menționat că Reddit a inițiat contactul cu Universitatea din Zurich pentru a cere explicații și a iniția demersuri legale împotriva echipei de cercetare.

Moderatorii subredditului și-au exprimat dezamăgirea și preocuparea față de experimentul neautorizat, solicitând transparență și răspundere din partea celor responsabili. Ei au subliniat nevoia de a proteja comunitatea de astfel de manipulări viitoare și au cerut sprijin din partea platformei pentru a preveni situații similare.

Implicațiile etice ale experimentului

Acest incident ridică probleme serioase despre limitele etice ale cercetării științifice, în special în mediul online. Folosirea inteligenței artificiale pentru a manipula opiniile utilizatorilor fără consimțământul acestora este o încălcare flagrantă a principiilor etice fundamentale. Acest experiment subliniază importanța de a defini și implementa ghiduri stricte pentru utilizarea tehnologiei AI în cercetări viitoare.

De asemenea, episodul atrage atenția asupra nevoii de a proteja datele și confidențialitatea utilizatorilor în fața experimentelor neautorizate. Pe măsură ce inteligența artificială devine tot mai sofisticată, capacitatea ei de a influența interacțiunile sociale și dezbaterile publice crește semnificativ, astfel că trebuie să existe un control riguros asupra utilizării acestor tehnologii.

Concluzie

Acest experiment efectuat pe Reddit de către cercetătorii Universității din Zurich reprezintă un caz de studiu pentru comunitatea științifică și nu numai, evidențiind riscurile asocierii între tehnologia avansată de AI și cercetările neetice. Este esențial ca asemenea incidente să fie luate în considerare serios pentru a asigura un mediu online sănătos, transparent și respectuos față de drepturile și confidențialitatea utilizatorilor.


Radu Marinescu

Radu Marinescu are 34 de ani și s-a născut în cartierul Drumul Taberei din București. A crescut cu miros de tei pe bulevardele capitalei și cu sunetul tramvaielor în fundal. Cu un stil direct, onest și cu o pasiune reală pentru orașul în care trăiește, Radu documentează zilnic poveștile orașului așa cum sunt: nefiltrate, autentice și relevante. Este genul de jurnalist care vorbește de la egal la egal cu oamenii, fie că acoperă o conferință de presă la primărie sau face live de la un protest spontan din Piața Victoriei. Când nu scrie, îl găsești cu o cafea în mână, ascultând discuțiile din autobuz sau plimbându-se prin Cotroceni, în căutarea următorului subiect.

Știri Generale

Știri Generale
 Aproape 11,3 milioane de alegători au votat până la ora 20:00, atingând o prezență de 62,74% în turul doi prezidențial
 Astrele îți aduc un impuls cosmic major! Află care sunt zodiile favorizate și ce surprize te așteaptă.
 BEC interzice propaganda electorală în ziua votării, inclusiv în mediul online: avertisment pentru candidați și susținători
 Biden va înfrunta cancerul cu hotărârea și grația sa distinctivă, susține Obama după diagnosticul oficial al bolii agresive
Carlos Alcaraz urcă pe locul 2 în clasamentul ATP, după o finală impresionantă la Roma împotriva lui Jannik Sinner
Ce îi atrage pe oameni la jocurile de cazinou? Descoperă motivele principale!
Ce spun Reuters, BBC și Politico despre victoria surprinzătoare a lui Nicușor Dan în alegerile prezidențiale din România?
 Cer Variabil și Vânt Moderat – Prognoza Meteo Azi pe Radio București FM
 Cercetări în Sectorul 1: Buletine de Vot Preștampilate și Amenzi în Capitală – Incidentele Electorale din București!
 Cerul și Pământul, în armonie
 Cine a triumfat în turul 2 al alegerilor prezidențiale 2025 și rezultatele din județul Galați?