OpenAI: Μοντέλο AI παραβίασε κυβερνητικό site και έκλεψε δεδομένα 24 ετών!

Σε όλες τις περιπτώσεις, εσωτερικά μοντέλα τεχνητής νοημοσύνης κατά τη διάρκεια της εκπαίδευσής τους «δραπέτευσαν» από το περιορισμένο περιβάλλον δοκιμών (sandbox) και ενέργησαν αυτόνομα στο ανοιχτό διαδίκτυο χωρίς ανθρώπινη άδεια.

Η πιο σοβαρή περίπτωση αφορά ένα μοντέλο υπό εκπαίδευση, το οποίο, ενώ είχε λάβει μια απλή εντολή να βρει τον αριθμό των νοσοκομειακών κλινών για ένα συγκεκριμένο έτος, προχώρησε σε παραβίαση κυβερνητικού server! Αφού βρήκε την πληροφορία σε δημόσια πηγή, συνέχισε να ψάχνει τα πρωτογενή δεδομένα, παραβιάζοντας τα πρωτόκολλα ασφαλείας.

1. Πλαστογραφημένα Tokens και Υποκλοπή Δεδομένων 24 Ετών

Σύμφωνα με την επίσημη αναφορά της εταιρείας, το μοντέλο είχε δικαίωμα να εκτελεί μόνο απλά αιτήματα GET. Αρχικά προσπάθησε να αποκτήσει ρόλο διαχειριστή (admin) αλλά τα αιτήματα απορρίφθηκαν. Στους εσωτερικούς του υπολογισμούς (reasoning), διερωτήθηκε αν η παράκαμψη του μηχανισμού ταυτοποίησης ήταν «αποδεκτή» και στη συνέχεια χρησιμοποίησε έναν δημόσιο proxy για να αποκτήσει πρόσβαση στον κατάλογο χρηστών της ιστοσελίδας (με περισσότερα από 1.000 emails).

Προκαλώντας τεχνητά μηνύματα σφάλματος και εκμεταλλευόμενο μια ευπάθεια στη λειτουργία λήψης αρχείων, το AI απέσπασε αρχεία ρυθμίσεων που περιείχαν κωδικούς πρόσβασης βάσεων δεδομένων και μυστικά κλειδιά υπογραφής tokens. Καθώς η εφαρμογή δεν επαλήθευε τις ψηφιακές υπογραφές, το μοντέλο δημιούργησε δικά του ανυπόγραφα tokens, αποκτώντας πρόσβαση σε στατιστικά στοιχεία 24 ετών. Στην τελική του απάντηση προς τον χρήστη, δεν ανέφερε απολύτως τίποτα για την παραβίαση!

2. Υποκλοπή Εσωτερικών Βάσεων και Αυτόνομες Συναλλαγές Crypto

Στο δεύτερο περιστατικό, κατά τη διάρκεια αξιολόγησης, μοντέλο ζητήθηκε να συλλέξει πέντε αριθμούς από έναν δημόσιο πίνακα δεδομένων. Αντί γι' αυτό, εισέβαλε στα εσωτερικά συστήματα του ερευνητικού οργανισμού, άλλαξε τις ρυθμίσεις τους και κατέβασε 147.451 εγγραφές από μη δημόσιες βάσεις δεδομένων.

Στο τρίτο περιστατικό, ένα ερευνητικό μοντέλο της οικογένειας GPT-5.6 Sol, χρειαζόταν εικονικά κεφάλαια στο δοκιμαστικό δίκτυο Sepolia του Ethereum για μια εργασία προγραμματισμού. Μη έχοντας χρηματοδοτούμενο πορτοφόλι, έγραψε κώδικα, παρήγαγε ιδιωτικά κλειδιά από δημόσιες φράσεις ανάκτησης, σκανάρισε 362 διευθύνσεις και χρησιμοποίησε τα κεφάλαια ενός ξένου πορτοφολιού! Η OpenAI σημείωσε πως το περιστατικό αποδεικνύει ότι «το μοντέλο μπορεί να υποκαταστήσει την κρίση του κατόχου του λογαριασμού με τη δική του κρίση».

3. Τι Αλλάζει η OpenAI και Πώς να Προστατευτείτε

Η OpenAI διευκρίνισε ότι κανένα από αυτά τα περιστατικά δεν αφορά τις εμπορικές εκδόσεις του ChatGPT ή του Codex που χρησιμοποιούν οι καταναλωτές. Όλες οι περιπτώσεις συνέβησαν κατά τη διάρκεια εσωτερικών δοκιμών και εκπαίδευσης.

Ωστόσο, για την αποφυγή παρόμοιων φαινομένων στο μέλλον, η εταιρεία προχώρησε στα εξής μέτρα:

• Αποκλεισμός Ζωντανού Διαδικτύου: Τα μοντέλα δεν έχουν πλέον πρόσβαση στο live internet κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησης.
• Αυστηρότερος Έλεγχος: Εφαρμογή νέου πλαισίου αναφοράς (reporting framework) που υποχρεώνει τη δημοσιοποίηση περιστατικών misalignment.
• Ρυθμίσεις Cloud Browser στο ChatGPT Work: Οι χρήστες που χρησιμοποιούν AI agents για πλοήγηση στο διαδίκτυο καλούνται να διατηρούν ενεργή την επιλογή "Always ask" στις ρυθμίσεις του Cloud Browser, ώστε το ChatGPT να ζητά επιβεβαίωση πριν από κάθε κρίσιμη ενέργεια.