Business & Finance Παρασκευή 3/02/2023, 21:45
BUSINESS & FINANCE

Η Ιταλία απαγορεύει στο chatbot Replika να χρησιμοποιεί προσωπικά δεδομένα

Η Ιταλία απαγορεύει στο chatbot Replika να χρησιμοποιεί προσωπικά δεδομένα

Η Υπηρεσία Προστασίας Δεδομένων της Ιταλίας δήλωσε την Παρασκευή ότι απαγορεύει στην εταιρεία chatbot τεχνητής νοημοσύνης (AI) Replika να χρησιμοποιεί τα προσωπικά δεδομένα των Ιταλών χρηστών, επικαλούμενη κινδύνους για ανηλίκους και συναισθηματικά ευαίσθητους ανθρώπους.

Η Replika, μια startup από το Σαν Φρανσίσκο που ξεκίνησε το 2017, προσφέρει στους χρήστες προσαρμοσμένα avatars που τους μιλούν και τους ακούνε.

Έχει πρωτοστατήσει μεταξύ των αγγλόφωνων και η χρήση της είναι δωρεάν, αν και αποφέρει περίπου 2 εκατομμύρια δολάρια μηνιαία έσοδα από την πώληση μπόνους λειτουργιών, όπως οι φωνητικές συνομιλίες.

Ο συγκεκριμένος «εικονικός φίλος» διαφημίζεται ως ικανός να βελτιώσει τη συναισθηματική ευημερία του χρήστη.

Αλλά ο ιταλικός εποπτικός φορέας δήλωσε ότι παρεμβαίνοντας στη διάθεση του χρήστη, «μπορεί να αυξήσει τους κινδύνους για τα άτομα που βρίσκονται ακόμη σε αναπτυξιακό στάδιο ή σε κατάσταση συναισθηματικής ευπάθειας».

Η Jen Persson, διευθύντρια της ομάδας υπεράσπισης της ιδιωτικής ζωής των παιδιών Defend Digital Me, δήλωσε στο Reuters ότι τα εργαλεία που έχουν σχεδιαστεί για να επηρεάζουν τη διάθεση ή την ψυχική ευημερία ενός παιδιού θα έπρεπε να ταξινομούνται ως προϊόντα υγείας και, ως εκ τούτου, θα έπρεπε να υπόκεινται σε αυστηρά πρότυπα ασφαλείας.

«Αυτά τα εργαλεία χρησιμοποιούνται από τα παιδιά χωρίς μεγάλη εποπτεία ή προστασία από πιθανή κακή χρήση», δήλωσε η ίδια.

Οι ιταλικές ρυθμιστικές αρχές υπογράμμισαν την απουσία μηχανισμού επαλήθευσης της ηλικίας, όπως φίλτρα για ανηλίκους ή συσκευή αποκλεισμού εάν οι χρήστες δεν δηλώνουν ρητά την ηλικία τους.

Η Replika παραβιάζει τους ευρωπαϊκούς κανονισμούς για την προστασία της ιδιωτικής ζωής και επεξεργάζεται παράνομα προσωπικά δεδομένα, καθώς δεν μπορεί να βασίζεται, έστω και σιωπηρά, σε μια σύμβαση που ένας ανήλικος δεν είναι σε θέση να υπογράψει, ανέφερε η εποπτική αρχή.

Η Replika δεν απάντησε αμέσως σε ηλεκτρονικό μήνυμα του Reuters για να ζητήσει σχόλιο.

Ο Robert Grosvenor, διευθύνων σύμβουλος της εταιρείας συμβούλων Alvarez & Marsal, δήλωσε ότι το ιταλικό παρατηρητήριο είναι απίθανο να είναι η μόνη ευρωπαϊκή ρυθμιστική αρχή που εξετάζει το ενδεχόμενο λήψης μέτρων κατά εταιρειών όπως η Replika.

«Ενώ η επαλήθευση της ηλικίας θα μπορούσε να παρέχει μέσα για την προστασία ορισμένων από τις πιο ευάλωτες ομάδες, δεν αντιμετωπίζει τους κινδύνους και τις βλάβες που μπορούν να εγείρουν οι υπηρεσίες και οι λύσεις που βασίζονται στην τεχνητή νοημοσύνη, εάν δεν ρυθμίζονται, όσον αφορά το ενδεχόμενο ακούσιας προκατάληψης και διακρίσεων», δήλωσε.

Ο προγραμματιστής της Replika, η αμερικανική εταιρεία Luka Inc, πρέπει να κοινοποιήσει στην ιταλική αρχή τα μέτρα που έλαβε για την εφαρμογή των απαιτήσεων της σε 20 ημέρες και θα μπορούσε να της επιβληθεί πρόστιμο έως και 20 εκατομμύρια ευρώ (21,80 εκατομμύρια δολάρια) ή έως και 4% του παγκόσμιου ετήσιου κύκλου εργασιών της, αναφέρεται στην ανακοίνωση.

Moneyreview.gr

Ακολουθήστε το Money Review στο Google News