Jak dokáže být citlivá umělá inteligence či jazykový model

Když se řekne „citlivost robotů“, představíte si možná chytrou žehličku, co pozná bavlnu, ale ne to, že jste ve stresu. Jenže realita je mnohem zajímavější! Citlivá umělá inteligence není v nedohlednu. Již nyní jazykové modely překvapují svou schopností rozpoznávat emoce a reagovat s empatií.

Co říkají výzkumy o umělé emoční inteligenci

Podle studie EmoBench: Evaluating the Emotional Intelligence of Large Language Models (2024) dokáží současné jazykové modely rozpoznat emoce z textu a odpovědět s ohledem na situaci. Například nabídnou povzbuzení nebo uklidnění. Zatím však platí, že hlubší emociální nuance jim mohou unikat, neb nejsou na úrovni průměrného člověka. Nicméně to ani většina staromódních pediatrů.

Jazykový model se podobá tomu příteli, který se sice s radou občas netrefí, ale snaží se tu pro vás vždy být.

Zajímavé je, že podle studie Improved Emotional Alignment of AI and Humans (2024) se umělá emoční inteligence netýká výlučně textu. Systémy jako DALL-E 3 a Stable Diffusion umí vytvářet obrazy, jež mohou vyjadřovat emoce – od radosti po melancholii. Podle vědců je jejich schopnost zachytit odpovídající emoce překvapivě dobrá, ačkoliv někdy přehnaně dramatická jak divadelní představení prvního ročníku na konzervatoři.

Jazykové modely: chatbot ChatGPT vs. Claude

Claude od Anthropic byl navržen s důrazem na empatii a schopnost citlivě reagovat na požadavky uživatele. Zkrátka jako kamarád, co vás vyslechne a přizná, když něco neví. Je známý svou schopností říct: „Promiň, spletl jsem se, napravím to.“ Což i ve světě lidí představuje jedinečnou vlastnost. Některé uživatele dokonce překvapuje tím, že se zdá „až moc lidský“.

ChatGPT byl trénován především pro efektivní poskytování informací. Působí jako ten chytrý spolužák, který zná všechna fakta, jen čas od času zapomene na emoce. Podle studie Both Matter (2024) se ale učí být citlivější, aniž by ztratil své encyklopedické znalosti.

Terapie budoucnosti?

Výzkum Research on Emotionally Intelligent Dialogue Generation Based on Automatic Dialogue System (2024) ukazuje, že AI má potenciál být užitečným pomocníkem v terapeutických / emocionálních interakcích. Zkoumané modely se zaměřují na rozpoznání široké škály emocí v reálném čase. Mohou například zachytit jemné náznaky stresu nebo úzkosti a reagovat vhodnou empatickou odpovědí. Jistě, zatím to není dokonalé. Chvílemi to připomíná IT podporu: „Zkusili jste to vypnout a znovu zapnout?“

Proč je to důležité?

Spojení technologie a psychologie otevírá nové možnosti. AI modely by mohly hrát důležitou roli v terapii, vzdělávání nebo osobním rozvoji. Obrovskou výhodu totiž mají v trpělivosti, neúnavnosti a přístupu k informacím. Samozřejmě by jejich pomoc byla vhodná pouze v lehčích případech + ideálně pod dohledem odborníka s reálným pohodlným křeslem.

AI má (zatím) svá omezení

I přes působivý pokrok mají AI systémy limity:

• Nemají skutečné emocionální prožitky, jenom napodobují vhodné reakce podle trénovacích dat.
• Chybí jim kontextové pochopení složitých životních situací a kulturních rozdílů.
• Nemohou navázat opravdové citové pouto. Jejich „empatie“ vychází z matematických výpočtů.
• Existuje riziko, že si uživatelé vytvoří falešný dojem skutečnosti. Sice se to může stát i s lidmi, jenže když  pláčete lidem na rameni, nezreznou. U techniky takové riziko existuje.

Co myslíte? Svěřujete/svěřili byste se se svými pocity AI? Jak se zdá, budoucnost není jen chytrá, ale (snad) i citlivá. Aspoň u strojů.

Autoři: Robert Svoboda a Iva Preislerová