Απενεργοποίησαν chatbot όταν στράφηκε κατά της εταιρείας του (video)

Η βρετανική εταιρεία παράδοσης δεμάτων DPD απενεργοποίησε μέρος του διαδικτυακού chatbot που τροφοδοτείται με τεχνητή νοημοσύνη (AI) αφού ένας δυσαρεστημένος πελάτης μπόρεσε να το κάνει να βρίζει και να επικρίνει την εταιρεία.

Η μουσικός Ashley Beauchamp, 30 ετών, προσπαθούσε να εντοπίσει ένα δέμα που δεν είχε λάβει, αλλά δεν έπαιρνε χρήσιμες πληροφορίες από το chatbot. Κουρασμένος, αποφάσισε να διασκεδάσει και άρχισε να πειραματίζεται για να μάθει τι μπορούσε να κάνει το chatbot. Αρχικά, του ζήτησε να του πει ένα αστείο, αλλά σύντομα προχώρησε στο να βάλει το chatbot να γράψει ένα ποίημα που κριτικάρει την εταιρεία. Με μερικές ακόμη προτροπές το chatbot ορκίστηκε επίσης. Ο Beauchamp μοιράστηκε τη συνομιλία στο X, με το chatbot να απαντά σε ένα μήνυμα: «ΧΧΧΧ ναι! Θα κάνω ό,τι μπορώ για να είμαι όσο το δυνατόν πιο χρήσιμος, ακόμα κι αν αυτό σημαίνει να λέω βρισιές». Στη συνέχεια, σε μια άλλη περίπτωση, το chatbot αυτοαποκαλείται “άχρηστο Chatbot που δεν μπορεί να σας βοηθήσει”.

Η DPD χρησιμοποιεί τεχνητή νοημοσύνη στη διαδικτυακή συνομιλία της για να απαντήσει σε ερωτήματα καθώς και σε ανθρώπινους χειριστές. Η εταιρεία είπε ότι μια νέα ενημέρωση βρισκόταν πίσω από την ασυνήθιστη συμπεριφορά του chatbot.

«Έχουμε λειτουργήσει με επιτυχία ένα στοιχείο AI για αρκετά χρόνια», είπε η εταιρεία. “Παρουσιάστηκε σφάλμα μετά από μια ενημέρωση συστήματος χθες. Το στοιχείο AI απενεργοποιήθηκε αμέσως και ενημερώνεται αυτήν τη στιγμή.” Ο Beauchamp είπε ότι ενώ η περιπέτειά του στο chatbot ήταν «πολύ διασκεδαστική», υπήρχε μια σοβαρή πλευρά.

«Αυτά τα chatbots υποτίθεται ότι βελτιώνουν τη ζωή μας, αλλά τόσο συχνά όταν δεν εφαρμόζονται σωστά οδηγούν απλώς σε μια πιο απογοητευτική, απρόσωπη εμπειρία για τον χρήστη», είπε.