Chatfishing: Když za vás flirtuje umělá inteligence

„Ahoj, všiml jsem si, že posloucháš stejné obskurní post-rockové kapely jako já. Náhoda? Nebo osud, který nám dláždí cestu k prvnímu společnému poslechu Sigur Rós?“

Zpráva, která vám právě přistála v aplikaci, je vtipná, osobitá a dokonale cílená. Příliš dokonalá? Je možné, že ji nenapsal váš potenciální partner, ale jeho osobní AI textař.

Vítejte ve světě chatfishingu – fenoménu, který mění pravidla hry v online seznamování a klade zásadní otázky o autenticitě, důvěře a lidské zranitelnosti.

Evoluce digitálního klamu

Termín catfishing je nám již poměrně známý. Označuje situaci, kdy si někdo na internetu vytvoří falešnou identitu, aby oklamal ostatní. Ať už z důvodu finančního zisku, osobní msty, nebo jen pro uspokojení z manipulace. Jde o ruční, pracnou formu podvodu.

Chatfishing je jeho technologicky pokročilejší a zákeřnější příbuzný. Místo toho, aby si podvodník sám vymýšlel okouzlující odpovědi, nechá je za sebe tvořit nějaký jazykový model, jako je Claude, ChatGPT a podobně. Tyto modely dokáží na základě jednoduchých pokynů generovat texty, které jsou nejen gramaticky správné, ale zároveň na přání i vtipné, empatické a přesvědčivé. Vzniká tak jakýsi Cyrano z Bergeracu 2.0, digitální našeptávač, který kompenzuje nedostatek výřečnosti a kreativity svého uživatele.

Podle průzkumů je tato myšlenka pro mnohé lákavá. Například zpráva CNN Prima News uvádí, že Češi by uvítali, kdyby jim umělá inteligence pomohla s tvorbou profilu nebo zahájením konverzace. Důvod se zdá nevinný: překonat počáteční ostych a zaujmout. Jenže tím se otevírá Pandořina skříňka etických a i bezpečnostních problémů.

Proč je chatfishing problém?

Na první pohled se může zdát, že jde jen o neškodnou pomůcku, podobně jako když kamarádovi pomáháme napsat vtipnou SMS. Skeptický pohled však odhaluje tři hlavní rizika.

1. Krize autenticity a eroze důvěry

Základem každého vztahu, včetně toho právě se rodícího, je předpoklad oboustranné upřímnosti. A chatfishing tento předpoklad systematicky ničí. Nejde o vylepšení profilu, ale o delegování osobnosti (či snad o krádež vlastní osobnosti?). Konverzace, která by měla být prostorem pro vzájemné poznávání se dvou lidí, se stává interakcí mezi člověkem a strojem.

A když pak konečně dojde na první skutečnou, osobní schůzku, člověk, který v online světě působil jako pohotový a vtipný společník, se v realitě projeví jako někdo zcela jiný. Nevyhnutelně tak dochází ke zklamání a k pocitu, že člověk byl podveden.

2. Atrofie sociálních dovedností

Používání AI jako berličky pro sociální interakce může vést k postupnému ochabování přirozených komunikačních schopností. Místo toho, abychom se učili formulovat myšlenky, riskovat občasnou trapnost a nacházet vlastní autentický hlas, spoléháme na dokonalý, ale cizí scénář.

Je to pohodlné („Lidé jsou rádi hloupí.“ – TGM). Ale nebezpečné. Připravujeme se tak o klíčové životní dovednosti: schopnost navázat přirozený rozhovor, čelit odmítnutí a budovat spojení na základě toho, kým skutečně jsme, a ne na základě toho, jakou osobnost nám vygeneroval algoritmus.

3. Kyberbezpečnostní noční můra

Zatímco někteří uživatelé sahají po AI z nejistoty, organizované skupiny podvodníků v ní vidí dokonalý nástroj pro své úmysly. Jazykové modely jim umožňují vést desítky přesvědčivých konverzací najednou s minimálním úsilím. Dokážou lépe cílit na emoce oběti, budovat falešnou důvěru a mnohem efektivněji z ní pak loudit peníze či citlivé údaje.

Jak varují experti z ESETu či Avastu, AI dokáže analyzovat profil oběti a přizpůsobit komunikaci jejím zájmům a slabinám. Romance scamy, které v Česku připravují lidi o statisíce korun, tím získávají na síle a sofistikovanosti. Rozpoznat podvodníka je stále těžší a těžší.

Jak nenaletět?

Kritické myšlení a zdravá dávka skepse!
Problém je, že jsme náchylní ke kognitivním zkreslením. Zejména konfirmační zkreslení (confirmation bias) nás nutí vyhledávat a interpretovat informace tak, aby potvrzovaly naši touhu po nalezení ideálního partnera. Příliš dokonalé zprávy pak nevnímáme jako varovný signál, ale jako důkaz, že jsme konečně našli „toho pravého“.

Jak tedy chatfishing rozpoznat?

Příliš dokonalé a rychlé odpovědi: Reakce partnera jsou vždy perfektně formulované, bez překlepů a přicházejí podezřele rychle. Člověk potřebuje čas na rozmyšlenou, stroj nikoliv.
Obecnost / absence osobních detailů: AI dobře pracuje s obecnými frázemi a komplimenty, ale může selhávat při dotazech na konkrétní, osobní vzpomínky nebo zážitky, které nejsou v profilu.
Neochota k přechodu na jinou platformu: Klíčovým testem je navrhnout videohovor nebo telefonát. Podvodníci (ať už lidští, nebo s AI pomocí) se mu budou vyhýbat pod různými záminkami. Reálný hlas a tvář jsou něco, co algoritmus zatím nenabídne.

Hledání člověka v ozvěně kódu

Chatfishing je symptomem doby, která, často na úkor upřímnosti, klade obrovský důraz na sebeprezentaci a dokonalost. Umělá inteligence v seznamování slibuje efektivitu a úspěch, ale zaplatíme za to devalvací (a snad ne ztrátou) toho nejcennějšího – autentické lidské interakce.

Je dobré si připomenout, že drobné nedokonalosti, jako je občasné trapné ticho nebo neohrabaně formulovaná věta, nejsou chyby, ale důkazy naší lidskosti a opravdovosti. A právě tu bychom měli v druhých hledat, i kdyby to znamenalo procházet hromady méně dokonalých, ale o to upřímnějších profilů.

Protože přece nechceme randit s dokonale kalibrovaným algoritmem, ale se skutečným člověkem.

Zdroje:

Psax
Aspene

Chatfishing – nová éra seznamování vs. digitální lež