Το Ισραήλ συνεργάζεται σιωπηλά με αμερικανικές εταιρείες τεχνολογίας σε συστήματα τεχνητής νοημοσύνης για την αναγνώριση και εξουδετέρωση στόχων στη Γάζα, αποκαλύπτει έρευνα του Associated Press. Ο αριθμός των νεκρών αμάχων συνεχίζει όμως να αυξάνεται, μαζί με τους φόβους ότι η ΑΙ ευθύνεται για θανάτους αθώων.
Η συνεργασία του ιδιωτικού τομέα με τον στρατό είναι παλιά υπόθεση, αυτή όμως είναι η πρώτη φορά που εμπορικά μοντέλα τεχνητής νοημοσύνης χρησιμοποιούνται στον πόλεμο, δήλωσε στο AP η Χάιντι Κλάαφ του AI Now Institute, πρώην μηχανικός ασφάλειας στην OpenAI.
«Οι συνέπειες είναι τεράστιες όσον αφορά τον ρόλο της τεχνολογίας στη διευκόλυνση αυτού του είδους των ανήθικων και παράνομων πολεμικών επιχειρήσεων» είπε.
Ο ισραηλινός στρατός χρησιμοποιεί τεχνητή νοημοσύνη για να αναλύει ωκεανούς δεδομένων από τις μυστικές υπηρεσίες, να αναγνωρίζει πρόσωπα σε εικόνες από κάμερες ασφάλειας και να εντοπίζει ύποπτες συμπεριφορές ή συνομιλίες.
Μετά την επίθεση της Χαμάς στο Ισραήλ τον Οκτώβριο του 2023, η συνεργασία του Ισραήλ με την Microsoft, η οποία προσφέρει τα μοντέλα της OpenAI μέσω της υπηρεσίας cloud Azure, πήρε νέες διαστάσεις, αποκάλυψε η έρευνα.
Οι διακομιστές του Ισραήλ αδυνατούσαν να αποθηκεύσουν όλα τα δεδομένα που συγκεντρώνεται στη Γάζα με αποτέλεσμα να αναζητηθούν λύσεις σε εμπορικές υπηρεσίες νέφους, δήλωσε σε περυσινή παρουσίαση η συνταγματάρχης Ραχέλι Ντεμπίνσκι, η ανώτατη ισραηλινή αξιωματούχος τεχνολογίας της πληροφορίας. Τα λογότυπα του Microsoft Azure, του Google Cloud και του Amazon Web Services περνούσαν από την οθόνη την ώρα της ομιλίας της.
Από την ημέρα της επίθεσης της Χαμάς μέχρι τον Ιούλιο του 2024, ο όγκος των αποθηκευμένων ισραηλινών δεδομένων στο Azυre διπλασιάστηκε στα 13,6 petabyte, περίπου 350 φορές ο χώρος που απαιτείται για ολόκληρη τη Βιβλιοθήκη του Κογκρέσου.
Περισσότεροι από 50.000 Παλαιστίνιοι έχουν σκοτωθεί στη Γάζα, όπου το 70% των κτηρίων έχει γκρεμιστεί (Reuters)
Τα εργαλεία ΑΙ που προσφέρει το Azure επιτρέπουν στον ισραηλινό στρατό να συγκεντρώνει πληροφορίες, όπως τηλεφωνικές κλήσεις, εικόνες από κάμερες και γραπτά μηνύματα, δεδομένα που μεταγράφονται μεταφράζονται αυτόματα για να εντοπιστούν ύποπτες κινήσεις, δήλωσε αξιωματούχος των ισραηλινών υπηρεσιών πληροφοριών.
Η Microsoft δεν δέχτηκε να απαντήσει στα ερωτήματα του AP. Η OpenAI δήλωσε ότι δεν συνεργάζεται με τον ισραηλινό στρατό, ωστόσο τα μοντέλα της είναι διαθέσιμα μέσω του Azure της Microsoft.
Πριν από έναν χρόνο, εξάλλου, η OpenΑΙ άλλαξε τους όρους χρήσης καταργώντας τη δέσμευση για μη χρήση των προϊόντων της σε στρατιωτικές εφαρμογές. Πλέον οι όροι χρήσης επιτρέπουν «περιπτώσεις χρήσης για λόγους εθνικής ασφάλειας που συμβαδίζουν με την αποστολή μας».
Ο ισραηλινός στρατός αρνήθηκε να σχολιάσει το ρεπορτάζ, δήλωσε όμως ότι οι απαντήσεις της ΑΙ ελέγχονται από αξιωματούχους ώστε να διασφαλίζεται η τήρηση της διεθνούς νομοθεσίας.
«Τα εργαλεία ΑΙ καθιστούν τη διαδικασία πιο ακριβή και αποτελεσματική» ανέφερε με ανακοίνωσή του ο ισραηλινός στρατός. «Αναγνωρίζουν περισσότερους στόχους ταχύτερα, όχι όμως εις βάρος της ακρίβειας, και σε πολλές περιπτώσεις μπορέσαμε να ελαχιστοποιήσουμε τις απώλειες αμάχων».
Εκτός από την Microsoft, η Google και η Amazon προσφέρουν υπηρεσίες νέφους και ΑΙ στο Ισραήλ μέσω του «Project Nimbus», ενός συμβολαίου ύψους 1,2 δισ. δολαρίων που υπεγράφη το 2021, όταν το Ισραήλ άρχισε να δοκιμάζει δικά του συστήματα αναγνώρισης στόχων.
Οι ισραηλινές ένοπλες δυνάμεις χρησιμοποιούν επίσης διακομιστές της Dell και της Cisco. Η Red Hat, θυγατρική της IBM, προσφέρει τεχνολογίες νέφους, ενώ η Palantir Technologies, η οποία προσφέρει εργαλεία ανάλυσης δεδομένων για κυβερνήσεις, έχει «στρατηγική συνεργασία» για την παροχή συστημάτων ΑΙ στον ισραηλινό στρατό.
Ακολουθώντας το παράδειγμα της OpenAI, η Google άλλαξε πρόσφατα την πολιτική της αποσύροντας τη δέσμευση για μη χρήση της ΑΙ στην ανάπτυξη όπλων.
Οι αποκαλύψεις του AP εγείρουν ανησυχίες για τη στοχοποίηση αμάχων, δεδομένου ότι όλα τα μοντέλα ΑΙ έχουν την τάση να επινοούν φανταστικές απαντήσεις.
Η OpenAI έχει παραδεχτεί ότι το σύστημα αυτόματης μετάφρασης Whisper, το οποίο μεταφράζει από τα αραβικά, σε κάποιες περιπτώσεις επινοεί δηλώσεις που ποτέ δεν έγιναν, συμπεριλαμβανομένων ρατσιστικών σχολίων και βίαιης ρητορικής.
Ο ισραηλινός στρατός διαβεβαίωσε ότι οι μεταφράσεις της ΑΙ ελέγχονται από αραβόφωνους υπαλλήλους. Παρόλα αυτά, αξιωματούχος υπηρεσίας πληροφοριών δήλωσε πως έχει δει να μπαίνουν λάθος άνθρωποι στο στόχαστρο λόγω μεταφραστικών λαθών της ΑΙ.
