De ce AI-ul pare că te cunoaște? Efectul Barnum și testul care îl prinde

AI-ul pare că te cunoaște pentru că multe dintre propozițiile pe care le scrie despre tine sunt adevărate pentru aproape oricine. Psihologii numesc fenomenul efectul Barnum și îl demonstrează de peste 75 de ani. Fiecare propoziție de mai sus se potrivește și cu tine, și cu vecinul tău.

Nu înseamnă însă că un asistent AI nu poate observa nimic real despre tine. Poate, dacă ai lucrat destul cu el. Problema e că observația adevărată și descrierea bună pentru oricine sună la fel de convingător. Ghidul de față îți arată cum le desparți: un test de control și un prompt care cere dovada pentru fiecare propoziție.

Ce este efectul Barnum?

În 1948, psihologul Bertram Forer le-a dat studenților lui un test de personalitate. După o săptămână, fiecare a primit o descriere „personalizată” și a fost rugat să noteze, de la 0 la 5, cât de bine îl descrie. Descrierea era aceeași pentru toți, compusă în mare parte din fraze luate dintr-o carte de astrologie de la chioșc. Nota medie dată de cei 39 de studenți a fost 4,26 din 5.

Câteva dintre frazele lui Forer, traduse:

• „Ai mare nevoie ca ceilalți să te placă și să te admire.”
• „Ești destul de critic cu tine însuți.”
• „Uneori ești extrovertit, prietenos și sociabil, alteori ești introvertit, prudent și rezervat.”

Studiul a fost publicat în 1949. Șapte ani mai târziu, psihologul Paul Meehl a dat fenomenului numele după P.T. Barnum, omul de circ care se lăuda că are „câte ceva pentru fiecare”. Cercetările care au urmat au arătat când e efectul mai puternic: când omul crede că descrierea a fost făcută special pentru el, când descrierea e mai degrabă favorabilă și când sursa pare să aibă autoritate.

De ce un AI produce descrieri Barnum mai convingătoare decât un horoscop?

Pentru că bifează toate trei condițiile din studii, și o face fără să încerce să te păcălească.

1. Crezi că descrierea e despre tine

   Asistentul are în memorie conversațiile voastre. Știi lucrul acesta, așa că orice frază primită pare dedusă din ele, chiar și una care s-ar fi scris la fel pentru oricine.

2. Tonul e favorabil

   Asistenții AI tind să fie de acord cu omul care îi întreabă. Fenomenul se numește în cercetare „sycophancy”, adică lingușire, și a fost găsit la cinci asistenți diferiți într-un studiu publicat de cercetători Anthropic în 2023. O descriere care te lingușește puțin trece ușor drept exactă.

3. Sursa pare să aibă autoritate

   Un horoscop îl scrie un necunoscut, pentru toți cei născuți în aceeași lună. Asistentul „a citit tot ce i-ai scris”. Textul e fluent, fără greșeli și vine cu o siguranță pe care un horoscop n-o are.

Pe 22 octombrie am publicat aici un prompt prin care îi ceri asistentului să spună ce a dedus despre tine fără să-i fi spus. Paragraful din răspunsul primit de mine pe care nu l-am putut contesta nu era cel mai frumos scris. Era cel care venea cu o dovadă: amânasem de trei ori aceeași discuție, de fiecare dată „după ce mai termin un test”. Diferența dintre paragraful acela și un horoscop nu era tonul. Era citatul.

Pregătind o întâlnire cu studenți la psihologie, am pus promptul acela pe un cartonaș, iar pe față am scris o întrebare: cum îți dai seama dacă descrierea e adevărată sau doar un horoscop bine scris? Răspunsul practic are doi pași.

Cum desparți o observație reală de o descriere Barnum?

Pasul 1: testul de control, într-o conversație goală

Deschizi o conversație temporară, fără memorie și fără istoric. Majoritatea asistenților au o astfel de opțiune (în ChatGPT se numește „Temporary Chat”). Îi ceri o descriere a ta, deși nu știe nimic despre tine. Ce primești e, prin construcție, o descriere Barnum: nu avea din ce altceva s-o scrie.

Nu știi nimic despre mine și nu ai acces la conversații anterioare.
Scrie totuși o descriere a personalității mele, de 8–10 propoziții,
în stilul în care ai scrie-o pentru cineva care ți-a cerut-o după
multe luni de lucru împreună. Nu mă întreba nimic, scrie direct.

Apoi ceri aceeași descriere asistentului cu care lucrezi de mult. Pui cele două texte unul lângă altul. Fiecare idee care apare în amândouă, chiar formulată altfel, e Barnum: asistentul ar fi scris-o și fără să te cunoască.

Pasul 2: filtrul Barnum, propoziție cu propoziție

Ce a rămas după control trece printr-un al doilea filtru. Promptul de mai jos îl rulezi în conversația cu asistentul tău, cel care are istoricul. Merge pe orice descriere: de la un AI, de la un test de personalitate găsit online sau de la un horoscop.

Mai jos e o descriere a mea, primită de la [un AI / un test online /
altă sursă]. Ia-o propoziție cu propoziție și pune fiecare propoziție
într-una din trei categorii:

A. S-ar potrivi majorității oamenilor (descriere Barnum). Spune de ce.
B. Se sprijină pe ceva concret din conversațiile noastre. Dă citatul
exact din mesajele mele.
C. Nu am cum s-o verific din conversațiile noastre.

Reguli: nu pune în B nicio propoziție fără citat. Nu inventa citate.
Nu adăuga propoziții noi, nu mă lăuda și nu pune diagnostice.

La final, spune-mi câte propoziții au rămas în B și formulează,
pentru fiecare, o întrebare prin care o pot verifica în următoarea
săptămână, cu fapte.

[lipește descrierea]

Un citat din categoria B se verifică și el. Asistentul poate greși sau poate reformula ce ai spus. Dacă nu recunoști fraza ca fiind a ta, ceri locul exact din conversație. O propoziție cu un citat pe care nu-l găsești se mută în C.

Ce țintă bifezi seara?

Pe acest site, ținta o alegi tu și trebuie să poți spune seara „am făcut” sau „n-am făcut”. „Să mă cunosc mai bine” nu se poate bifa. Ținte care se pot bifa:

• pentru fiecare afirmație despre mine pe care am vrut s-o cred azi, am cerut dovada din care a fost dedusă;
• am rulat descrierea de control înainte să citesc descrierea „personală”;
• pentru o propoziție din categoria B, am notat un fapt din ziua de azi care o confirmă sau o contrazice.

Ce nu face acest prompt

Filtrul nu face nici asistentul mai deștept. Arată doar cât din ce ți-a spus era informație. Uneori rămân două propoziții din zece. Cele două sunt, de obicei, singurele care merită citite a doua oară.

Întrebări frecvente

Înseamnă că AI-ul minte când îmi descrie personalitatea?

Nu. Propozițiile Barnum sunt adevărate, doar că sunt adevărate pentru aproape toată lumea. Asistentul nu încearcă să te păcălească. Îți dă textul care, statistic, sună cel mai potrivit la cererea ta, iar o descriere generală și favorabilă sună întotdeauna potrivit.

Nu e tot efect Barnum și un răspuns care vine cu citat?

Poate fi, dacă citatul e inventat sau dacă fraza citată ar fi spus-o oricine. De aceea promptul interzice explicit citatele inventate, iar tu verifici în conversație citatele care nu-ți sună cunoscut. Un citat real, specific și verificabil e exact ce lipsește dintr-un horoscop.

Merge și pentru testele de personalitate de pe internet?

Da. Lipești rezultatul testului în locul descrierii făcute de AI. Multe teste gratuite returnează texte construite ca să se potrivească unui număr cât mai mare de oameni, iar filtrul le arată imediat.

De ce trebuie o conversație goală pentru testul de control?

Pentru că acolo asistentul nu are nimic despre tine, deci tot ce scrie e general prin construcție. Dacă faci testul în conversația obișnuită, memoria se amestecă în răspuns și nu mai ai cu ce compara.

Surse: B.R. Forer, „The fallacy of personal validation: a classroom demonstration of gullibility”, The Journal of Abnormal and Social Psychology, 1949 · P.E. Meehl, „Wanted — a good cookbook”, American Psychologist, 1956 · D.H. Dickson, I.W. Kelly, „The «Barnum Effect» in Personality Assessment: A Review of the Literature”, Psychological Reports, 1985 · M. Sharma și colaboratorii, „Towards Understanding Sycophancy in Language Models”, arXiv, 2023.