Nová prehľadová štúdia skúma fenomén označovaný ako AI psychóza, pri ktorom môže intenzívna komunikácia s chatbotmi prispievať k rozvíjaniu a upevňovaniu nepravdivých presvedčení a oslabovať schopnosť rozlišovať medzi realitou a predstavami.
Štúdia publikovaná v odbornom časopise skúma, ako môžu jazykové modely prostredníctvom prispôsobovania sa používateľovi, personalizovaných odpovedí a nekritickej ústretovosti vytvárať takzvanú špirálu zosilňovania.
Najviac ohrození môžu byť ľudia s psychickými ťažkosťami, v období dospievania, pri sociálnej izolácii, nedostatku spánku alebo silnej citovej naviazanosti na chatbota. Rizikové situácie sa podľa štúdie častejšie objavujú pri osobných a vzťahových témach než pri technických alebo odborných otázkach.
Autori preto odporúčajú zachovať si pri používaní AI kritický odstup a pri citlivých osobných témach vyhľadávať aj pohľad blízkych ľudí či odborníkov.