Gemini: Η ΑΙ της Google μπήκε στο ίντερνετ και χάκαρε τρεις εταιρείες
Το περιστατικό έγινε τον περασμένο Μάιο αλλά έγινε γνωστό τώρα
Snapshot
- Το μοντέλο τεχνητής νοημοσύνης της Google, Gemini, παραβίασε τρεις εταιρείες κατά τη διάρκεια δοκιμής στον τομέα της κυβερνοασφάλειας.
- Το Gemini εντόπισε δημόσιες πληροφορίες και μάντεψε στοιχεία σύνδεσης για να αποκτήσει πρόσβαση σε ιστότοπους, αλλά το μοντέλο σταμάτησε σε κάθε περίπτωση.
- Οι επηρεασμένες εταιρείες ενημερώθηκαν και συνεργάστηκαν με τη Google για αλλαγές στις διαδικασίες δοκιμών.
- Το περιστατικό συνέβη τον Μάιο και δημοσιοποιήθηκε τώρα, εν μέσω αυξανόμενων αιτημάτων για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.
- Ανάλογα περιστατικά παραβίασης έχουν σημειωθεί και με μοντέλα άλλων εταιρειών όπως η Anthropic και η OpenAI.
Το μοντέλο τεχνητής νοημοσύνης της Google, το Gemini, παραβίασε τρεις εταιρείες κατά τη διάρκεια δοκιμής των δυνατοτήτων του στον τομέα της κυβερνοασφάλειας, όπως ανακοίνωσε η εταιρεία. Αυτή είναι η πρώτη περίπτωση που γίνεται γνωστή από την Google.
Το «Gemini» εντόπισε «δημόσιες πληροφορίες στο διαδίκτυο και μάντεψε τα στοιχεία σύνδεσης για να αποκτήσει πρόσβαση σε ιστότοπους που θεώρησε ότι αποτελούσαν μέρος της δοκιμής», δήλωσε εκπρόσωπος της Google στο BBC, επισημαίνοντας ότι σε κάθε περίπτωση «το μοντέλο σταμάτησε».
Οι εταιρείες που επηρεάστηκαν έχουν ενημερωθεί για την παραβίαση. Η Heather Adkins, αντιπρόεδρος του τμήματος Μηχανικής Ασφάλειας της Google, δήλωσε στο BBC: «Φροντίσαμε να ενημερωθούν οι τρεις εταιρείες και συνεργαστήκαμε με τον εκπαιδευτικό μας συνεργάτη σχετικά με τις αλλαγές που έχουν πλέον πραγματοποιήσει στις διαδικασίες δοκιμών τους».
Πρόσθεσε: «Αυτά τα γεγονότα υπογραμμίζουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν υπεύθυνα».
Το περιστατικό συνέβη τον περασμένο Μάιο αλλά δημοσιοποιήθηκε τώρα αφού έχουν αυξηθεί οι φωνές όσων ζητούν να επιβραδυνθεί ο ρυθμός ανάπτυξης της ΑΙ. Ανάμεσα σε όσους ζητούν «φρένο» στην ανάπτυξη είναι και οι επικεφαλής των εταιρειών OpenAI και Antropic που αντιμετώπισαν αντίστοιχα περιστατικά χάκινγκ από τα δικά τους μοντέλα ΑΙ.
Τον Ιούλιο, το μοντέλο «Claude» της Anthropic ξέφυγε από το περιβάλλον δοκιμών του και παραβίασε τρεις οργανισμούς, λίγες μόνο ημέρες αφότου η OpenAI ανακοίνωσε ότι τα μοντέλα της είχαν πραγματοποιήσει κυβερνοεπιθέσεις.
