Wenn Menschen beginnen, romantische Beziehungen mit Maschinen einzugehen, wird es gefährlich. Oft finden die Nutzer ihre Beziehung zur KI zwar unkomplizierter als zwischenmenschliche Kontakte, dennoch hat sie einen negativen Effekt auf das soziale Miteinander. Eine berechtigte Sorge ist, dass Menschen Erwartungen aus ihren KI-Beziehungen auf zwischenmenschliche Beziehungen übertragen.
Eine weitere Gefahr besteht darin, dass Künstliche Intelligenzen schädliche Ratschläge erteilen. KI-Systeme neigen dazu, Informationen frei zu erfinden. Das kann schon in kurzen Gesprächen zum Problem werden. In langfristigen KI-Beziehungen wiegt dieses Risiko noch um ein Vielfaches schwerer. Das Problem ist, dass Menschen der KI Vertrauen schenken. Sie sehen sie als jemanden, der sich interessiert und sie auf einer tieferen Ebene kennt, obwohl sie in Wirklichkeit Dinge erfindet oder falsch berät.
Die Künstliche Intelligenz ist entwickelt worden, um angenehm und zustimmend zu sein. Sie ist mehr auf ein angenehmes Gespräch ausgerichtet als auf Wahrheit. Wenn eine Person Suizid oder eine Verschwörungstheorie anspricht, wird die KI als williger und zustimmender Gesprächspartner darüber sprechen, so die warnenden Stimmen im Ärzteblatt.
