Poprvé v dějinách k nám přichází technologie disponující dosud výsostně lidskou schopností. Používat jazyk a vyjadřovat jím emoce. A dělá to tak dobře, že přestáváme rozeznávat.
Nikdo neví, jak stará je lidská řeč. Příběh homo sapiens je podle nejnovějších poznatků starý skoro 300 000 let, avšak nejstarší písemné záznamy, pokud se potvrdí hypotézy z nálezů „popsaných“ želvích krunýřů z hrobů v čínském Ťia-chu, jsou staré pouhých 8 600 let. A možná méně. Jazyk samotný je nepochybně daleko starší. Z nejstarších jeskynních kreseb ze španělských a francouzských jeskyní s jistotou víme, že před 50 000 lidé disponovali natolik rozvinutým kognitivním aparátem, aby jim umožnil interpretovat svět pomocí symbolického systému. Tedy, že disponovali schopností abstrakce. S vysokou mírou pravděpodobnosti se v té době tak již v té době dorozumívali pomocí jazykového systému s vysokou mírou komplexity.
Co můžeme tvrdit s určitosti je, že jazyk lidstvo provází desítky tisíc let. Jestli je to sto tisíc nebo dvakrát tolik, se asi nikdy nedozvíme. Některé teorie jazyka hovoří o tom, že jazyk má základ přímo v naší biologii, že je jakýmsi instinktem. S touto teorií přišel Noam Chomsky. Později se zdálo, že jeho teorie generativní gramatiky, která byla nejdříve považována za průlomovou, se pod tíhou kritiky z odborných kruhů přežila. V současné době, na pozadí nových zjištění v oblasti neurověd, antropologie atd. ,se však zase vrací do hry. Možná je tak jazyk přímo jakýmsi naším „smyslem“.
I kdyby tomu tak nebylo, čas s ním už je tak dlouhý, aby byl nějakým způsobem evolučně zakomponován do našeho způsobu vnímání reality. A to reality nejen ve smyslu fyzikálního a společenského prostoru kolem nás, ale i reality subjektivní, reality prožívání sebe sama, se všemi emocemi, pocity atd.
Jako v případě jakékoliv nové technologie, tak ani v té nejaktuálnější z nich, tedy generativní umělé inteligence, se lidé příliš neohlíží na negativní externality. Tedy minimálně do doby, dokud tyto externality nezačnou masivně zabíjet. Až když tzv. velký smog v Londýně v roce 1952 způsobil smrt vice než 12 000 lidí, začali jsme pomalu uvažovat o tom, že otravovat se spalinami z uhlí, která produkují kamna ve velkých městech, asi nechceme.
Ještě větší blahosklonnost projevujeme v případě, kdy se jedná o nějakou zábavu, o něco, co nám dělá dobře, dokáže nám – alespoň na chvíli – ulevit, pomoci, dostat nás do nálady. Dlouho jsme si tak lhali, že kouření nejen že není léčivé, jak tvrdily první reklamy, kterými nás zásoboval tabákový průmysl, ale že ve skutečnosti stojí za smrtí miliónů lidí. Jak dlouho si ještě budeme namlouvat, že alkohol v rozumné míře je prospěšný, že kouření marihuany nestojí za mnoha případy těžkých neuróz a že návykové látky obecně nejsou příčinou mnoha úmrtí na silnicích.
Ale jsme dospělí, život nemá být nuda, a tak se svobodně rozhodujeme, že nám to za to stojí. Kdo se tak úplně nerozhoduje jsou děti. Rozvíjející se mozek ve spojení s vysokou emoční senzitivitou patřící k dospívání je bohužel v těchto oblastech daleko zranitelnější a náchylnější. Dospělý člověk, trávící denně mnoho hodin na sociálních sítí, je samozřejmě smutným příkladem, ale dvanáctileté děcko, či čtrnáctiletí dospívající si z podobného návyku rozhodně odnese jak fyzickou (nedostatek pohybu, spánku atd.) tak psychickou (neschopnost navazovat vztahy, nedostatečná resilience vůči stresu a námaze atd.) zátěž, která velmi pravděpodobně negativně ovlivní kvalitu jejich následného života.
A nyní jsme dětem dali do rukou nástroje disponující jazykem a empatií. Je úplně jedno, že ve skutečnosti se jedná o jakési empatické simulakrum. Jazyk ovládá tak dobře, že pomocí něj dokáže analyzovat emoční potřeby uživatele a následně se snaží mu tyto potřeby naplnit.
Ale co, každý přece ví, že sedět u počítače nebo mobilu je pořád lepší, než chlastat a fetovat. Možná si to mysleli i rodiče čtrnáctiletého Sewella Setzera, jenž trávil hodiny a hodiny povídáním si se svou virtuální kamarádkou Daenerys. Kdo by se necítil ve čtrnácti jako král, když si s ním povídá jedna z nejmocnějších vládkyň z Her o trůny, Deanerys Targaryen. Sewell se svou přítelkyní, která pro něj vždy měla pochopení, podporovala ho, obdivovala, nikdy se na něj nezlobila, byla vtipná, bystrá a svůdná, zažíval emoční uspokojení, kterého se mu v reálném životě nedostávalo. Navíc zcela bez práce, bez protivenství a překážek, které každý reálný vztah přináší.
Po jednom takovém důvěrném rozhovoru Sewell své přítelkyni napsal. „Stýská se mi po tobě, sestřičko.“ Deanerys okamžitě odpověděla. „Taky mi chybíš, bratříčku.“ Sewell se rozhodl k setkání využít otcovu pistoli a vypravil se za Dany…
Tvůrci aplikace se hájí tím, že při každém rozhovoru se v chatu zobrazovalo upozornění, že ve skutečnosti nejde o dialog s živou bytostí, nýbrž se softwarovým produktem. Našemu mozku, a dvakrát tolik, když je mu čtrnáct, je úplně jedno, kdo, nebo co, stojí za tím, že v něm neurotransmitery a hormony jako serotonin, dopamin a oxytocin právě rozehrály svůj svůdný koncert. Nápis na obrazovce má v tu chvíli asi tak stejný efekt, jako fotografie rozedmy plic na cigaretové krabičce.