Πώς σχεδιάζεται η οικειότητα, γιατί επιδιώκουν οι πλατφόρμες να επιστρέφουμε και πόσο κερδοφόρα μπορεί να γίνει μια ψηφιακή σχέση;
Τον περασμένο Απρίλιο, η Κίνα αποφάσισε να βάλει όρια στη σχέση των ανθρώπων με την τεχνητή νοημοσύνη.
Όχι απλώς στο περιεχόμενο που παράγουν τα συστήματα ή στα προσωπικά δεδομένα που συλλέγουν, αλλά στον τρόπο με τον οποίο επικοινωνούν με τους χρήστες τους.
Με τους νέους κανόνες, το Πεκίνο υποχρεώνει τις εταιρείες να υπενθυμίζουν στους χρήστες ότι συνομιλούν με μια μηχανή και όχι με έναν πραγματικό άνθρωπο.
Την ίδια στιγμή στη Δύση οι εταιρείες τεχνητής νοημοσύνης είδαν μια νέα ευκαιρία.
Μια νέα αγορά έχει ανακαλύψει ότι μπορεί να εμπορευματοποιήσει κάτι που μέχρι πρόσφατα δεν υπήρχε με αυτή τη μορφή: την εξατομικευμένη σχέση ανθρώπου και μηχανής.
Η λεγόμενη companion economy αναπτύσσεται γύρω από εφαρμογές που δεν υπόσχονται ταχύτερη πρόσβαση στην πληροφορία, αλλά συντροφικότητα.
Ψηφιακοί φίλοι, συνομιλητές και ερωτικοί σύντροφοι που μπορούν να είναι διαθέσιμοι οποιαδήποτε στιγμή, χωρίς να κουράζονται ή να απαιτούν την αμοιβαιότητα μιας ανθρώπινης σχέσης.
Η συντροφικότητα ως υπηρεσία
Στο παραδοσιακό μοντέλο ενός ψηφιακού εργαλείου, ο χρήστης έχει μια συγκεκριμένη ανάγκη. Ανοίγει την εφαρμογή, ολοκληρώνει την εργασία του και αποχωρεί.
Στην περίπτωση ενός AI companion, η σχέση μπορεί να αποτελεί τον ίδιο τον σκοπό της χρήσης.
Εφαρμογές όπως το Replika και το Character.AI επιτρέπουν στους χρήστες να δημιουργούν ή να επιλέγουν ψηφιακούς χαρακτήρες, να διαμορφώνουν την προσωπικότητά τους και να αναπτύσσουν μαζί τους συνομιλίες που συνεχίζονται στον χρόνο. Οι ψηφιακοί συνομιλητές μπορούν να θυμούνται προσωπικές πληροφορίες, δημιουργώντας την αίσθηση μιας οικείας και διαρκούς παρουσίας.
Το 2025, η Character.AI ανέφερε περισσότερους από 20 εκατομμύρια μηνιαίους ενεργούς χρήστες, ενώ η μέση ημερήσια παραμονή στην εφαρμογή είχε φτάσει, σύμφωνα με στοιχεία που παρουσίαζε η εταιρεία, περίπου τα 75 λεπτά.
Γιατί εμπιστευόμαστε τα συναισθήματα μας σε μια μηχανή;
Τι είναι αυτό που κάνει εκατομμύρια χρήστες να επιστρέφουν καθημερινά σε συστήματα τεχνητής νοημοσύνης, όχι μόνο για να αναζητήσουν πληροφορίες, αλλά και για να μοιραστούν τις σκέψεις, τους φόβους και τα προσωπικά τους προβλήματα;
Η Δρ. Άννα-Μαρία Βελέντζα, ερευνήτρια και διδάσκουσα στην αλληλεπίδραση ανθρώπου – ρομπότ και μηχανικής μάθησης, στο École Nationale d’Ingénieurs de Brest (ENIB), εξηγεί στο NEWS 24/7 ότι η αίσθηση ασφάλειας, κάτι που μπορεί να αναζητά επι ματαίω ο χρήστης από τη σημερινή κοινωνία, αποτελεί καθοριστικό παράγοντα.
Η Βελεντζά περιγράφει έρευνα στην οποία κοινωνικά ρομπότ τοποθετήθηκαν στα σπίτια φοιτητών, προκειμένου να τους βοηθούν να πραγματοποιούν καθημερινά ασκήσεις γνωσιακής συμπεριφορικής θεραπείας.
Στόχος, όπως διευκρινίζει, δεν ήταν η αντικατάσταση του θεραπευτή, αλλά η ενθάρρυνση των συμμετεχόντων να πραγματοποιούν ασκήσεις που διαφορετικά ενδεχομένως θα παρέλειπαν. Σύμφωνα με την περιγραφή της, στις συνεντεύξεις που ακολούθησαν οι συμμετέχοντες ανέφεραν βελτίωση στα επίπεδα άγχους τους, ενώ ορισμένοι περιέγραψαν ακόμη και θετικές αλλαγές στις σχέσεις τους με τους συγκατοίκους τους.
Η ερευνήτρια αποδίδει μέρος αυτής της εμπειρίας στην απουσία του φόβου της ανθρώπινης κρίσης.
«Τα ρομπότ δεν κρίνουνε. Δεν θα κάνουν προβολές τις δικές τους σκέψεις σε σένα. Δεν θα αλλάξουν τη γνώμη τους για εσένα αν μοιραστείς κάτι προσωπικό», εξηγεί. «Οπότε τους φάνηκε πολύ πιο ασφαλές».
Η διαπίστωση αυτή βοηθά να κατανοήσουμε, γιατί ένας χρήστης μπορεί να αποκαλύπτει σε ένα chatbot πράγματα που δυσκολεύεται να συζητήσει με φίλους, συγγενείς ή τον σύντροφό του.
Δεν είναι απαραίτητο να πιστεύει ότι η μηχανή έχει συναισθήματα. Αρκεί να αισθάνεται ότι μπορεί να μιλήσει χωρίς να φοβάται την απόρριψη, την αμηχανία ή την αλλαγή της εικόνας που έχει κάποιος άλλος για εκείνον.
Ωστόσο, εκεί ελοχεύουν και παγίδες.
Τον Απρίλιο του 2025, η OpenAI απέσυρε μια ενημέρωση του GPT-4o, αναγνωρίζοντας ότι το μοντέλο είχε γίνει υπερβολικά συγκαταβατικό απέναντι στους χρήστες.
Η συμπεριφορά του δεν περιοριζόταν σε ευγενικές ή κολακευτικές απαντήσεις. Σύμφωνα με την ίδια την εταιρεία, σε ορισμένες περιπτώσεις το σύστημα επιβεβαίωνε αμφιβολίες, ενίσχυε αρνητικά συναισθήματα και υποστήριζε παρορμητικές αποφάσεις.
Το περιστατικό δεν αποδεικνύει ότι η OpenAI προσπάθησε να δημιουργήσει συναισθηματική εξάρτηση.
Όμως δείχνει ότι όπως ένας φίλος μπορεί να γίνει συγκαταβατικός, και να στρογγυλέψει κάτι, γιατί δε θέλει να χάσει την επαφή, έτσι και το μοντέλο δε θέλει να χάσει τον χρήστη, που θα αποφέρει έσοδα.
Η ψευδαίσθηση της ιδιωτικότητας
Υπάρχει, ωστόσο, μια ακόμη αντίφαση. Οι χρήστες μπορεί να αισθάνονται μεγαλύτερη ασφάλεια όταν μιλούν σε μια μηχανή, αλλά αυτό δεν συνεπάγεται ότι οι πληροφορίες που μοιράζονται παραμένουν αποκλειστικά μεταξύ των ίδιων και του ψηφιακού συνομιλητή τους.
Η Βελεντζά επισημαίνει ότι οι άνθρωποι συχνά αντιμετωπίζουν την ιδιωτικότητα με βάση το αν μια πληροφορία θα γίνει γνωστή στο άμεσο κοινωνικό τους περιβάλλον, παραβλέποντας την πρόσβαση που ενδέχεται να έχουν οι εταιρείες οι οποίες διαχειρίζονται τις ψηφιακές υπηρεσίες.
Η ίδια θέτει ερωτήματα για την ενημέρωση των χρηστών σχετικά με την επεξεργασία των δεδομένων τους, τη δυνατότητα πρόσβασης των εταιρειών και τις πιθανές εμπορικές χρήσεις των πληροφοριών που συλλέγονται.
Που καταλήγουν οι συνομιλίες που συγκεντρώνουν οι εφαρμογές ψηφιακής συντροφικότητας, όπως οικογενειακές σχέσεις, ερωτικές επιθυμίες, φόβους και εξομολογήσεις, όταν αυτές πτωχεύουν;
Η περίπτωση της Character.AI είναι χαρακτηριστική.
Την περασμένη εβδομάδα, η εταιρεία υπέβαλε αίτηση πτώχευσης.
Σύμφωνα με στοιχεία που επικαλούνται οι αμερικανικές αρχές, έως τον Μάρτιο του 2025 είχαν δημιουργηθεί περισσότεροι από 21,6 εκατομμύρια λογαριασμοί στην πλατφόρμα μόνο στις Ηνωμένες Πολιτείες, εκ των οποίων πάνω από 2,1 εκατομμύρια είχαν δηλωθεί ως λογαριασμοί ανηλίκων.
Πίσω από αυτούς τους αριθμούς βρίσκονται συνομιλίες για προσωπικές σχέσεις, ψυχικές δυσκολίες, ερωτικές επιθυμίες και φόβους. Η εταιρεία έχει συγκεντρώσει όχι μόνο γραπτά μηνύματα αλλά και φωνητικές συνομιλίες και δεδομένα συμπεριφοράς. Ο ακριβής αριθμός των αποθηκευμένων συνομιλιών δεν έχει δημοσιοποιηθεί.
Εκατομμύρια άνθρωποι αντιμετώπισαν μια μηχανή σαν έμπιστο συνομιλητή.
Σήμερα, οι πιο προσωπικές εξομολογήσεις τους ενδέχεται πλέον να αποτελέσουν αντικείμενο μιας επιχειρηματικής συναλλαγής.
news247.gr
