Γιώργος Φρουζάκης
Στους σημαντικούς κινδύνους που απορρέουν από την τεχνητή νοημοσύνη (AI), αναφέρεται μία έκθεση για την εθνική ασφάλεια που ανέθεσε η αμερικανική κυβέρνηση, σύμφωνα με την οποία στη χειρότερη περίπτωση, θα μπορούσε να προκαλέσει «απειλή επιπέδου εξαφάνισης για το ανθρώπινο είδος».
«Η τρέχουσα ανάπτυξη της τεχνητής νοημοσύνης θέτει επείγοντες και αυξανόμενους κινδύνους για την εθνική ασφάλεια», αναφέρει η έκθεση, την οποία το TIME έλαβε πριν από τη δημοσίευσή της.
Μάλιστα όπως σημειώνει η έκθεση: «Η άνοδος της προηγμένης τεχνητής νοημοσύνης και της AGI (τεχνητή γενική νοημοσύνη) έχει τη δυνατότητα να αποσταθεροποιήσει την παγκόσμια ασφάλεια με τρόπους που θυμίζουν την είσοδο των πυρηνικών όπλων».
Η AGI είναι μια υποθετική τεχνολογία που θα μπορούσε να εκτελεί τις περισσότερες εργασίες στο ανθρώπινο επίπεδο ή και πάνω από αυτό. Τέτοια συστήματα δεν υπάρχουν επί του παρόντος, αλλά τα κορυφαία εργαστήρια τεχνητής νοημοσύνης εργάζονται προς αυτήν την κατεύθυνση και πολλοί αναμένουν ότι η AGI θα φτάσει μέσα στα επόμενα πέντε χρόνια ή και λιγότερο.
Οι τρεις συντάκτες της έκθεσης εργάστηκαν πάνω σε αυτήν για περισσότερο από ένα χρόνο, μιλώντας με περισσότερους από 200 κυβερνητικούς υπαλλήλους, εμπειρογνώμονες και εργαζόμενους σε εταιρείες τεχνητής νοημοσύνης στο πλαίσιο της έρευνάς τους.
Ο «κίνδυνος οπλοποίησης» με «συστήματα θα μπορούσαν ενδεχομένως να χρησιμοποιηθούν για τον σχεδιασμό και ακόμη και την εκτέλεση καταστροφικών βιολογικών, χημικών όπλων ή κυβερνοεπιθέσεων»
Τεχνητή νοημοσύνη
Μάλιστα ορισμένες από αυτές τις συνομιλίες δίνουν μια ανησυχητική εικόνα, υποδηλώνοντας ότι πολλοί εργαζόμενοι στην ασφάλεια της τεχνητής νοημοσύνης μέσα στα εργαστήρια ανησυχούν για τα στρεβλά κίνητρα που καθοδηγούν τη λήψη αποφάσεων.
Το τελικό έγγραφο, με τίτλο «Σχέδιο δράσης για την αύξηση της ασφάλειας και της προστασίας της προηγμένης τεχνητής νοημοσύνης», συνιστά μια σειρά από σαρωτικές και πρωτοφανείς δράσεις πολιτικής που, αν τεθούν σε ισχύ, θα διαταράξουν ριζικά τη βιομηχανία τεχνητής νοημοσύνης, ελαχιστοποιώντας όμως παράλληλα τους κινδύνους. Η έκθεση μάλιστα συστήνει στην αμερικανική κυβέρνηση να κινηθεί «γρήγορα και αποφασιστικά» προς αυτή την κατεύθυνση.
Οι συστάσεις της έκθεσης
Όπως συνιστά η έκθεση, το Κογκρέσο θα πρέπει να καταστήσει παράνομη την εκπαίδευση μοντέλων τεχνητής νοημοσύνης που χρησιμοποιούν περισσότερο από ένα ορισμένο επίπεδο υπολογιστικής ισχύος. Το όριο θα πρέπει να καθοριστεί από μια νέα ομοσπονδιακή υπηρεσία τεχνητής νοημοσύνης, αν και η έκθεση προτείνει, ως παράδειγμα, ότι η υπηρεσία θα μπορούσε να το ορίσει ακριβώς πάνω από τα επίπεδα υπολογιστικής ισχύος που χρησιμοποιούνται για την εκπαίδευση των σημερινών μοντέλων. Ο νέος οργανισμός τεχνητής νοημοσύνης θα πρέπει να απαιτεί από τις εταιρείες να λαμβάνουν κυβερνητική άδεια για την εκπαίδευση και την ανάπτυξη νέων μοντέλων πάνω από ένα χαμηλό όριο που θα έχει οριστεί.
Σύμφωνα με την έκθεση οι Αρχές θα πρέπει επίσης να εξετάσουν «επειγόντως» το ενδεχόμενο να απαγορεύσουν δημοσιεύσεις που αφορούν ισχυρά μοντέλα τεχνητής νοημοσύνης, για παράδειγμα με άδειες ανοιχτού κώδικα, με τις παραβιάσεις να τιμωρούνται ενδεχομένως με ποινή φυλάκισης.
Επιπλέον η κυβέρνηση θα πρέπει να αυστηροποιήσει περισσότερο τους ελέγχους για την κατασκευή και την εξαγωγή των τσιπ τεχνητής νοημοσύνης και να διοχετεύσει την ομοσπονδιακή χρηματοδότηση προς την έρευνα «ευθυγράμμισης» που επιδιώκει να καταστήσει την προηγμένη τεχνητή νοημοσύνη ασφαλέστερη.
Οι συστάσεις «δεν αντικατοπτρίζουν τις απόψεις της κυβέρνησης»
Η έκθεση ανατέθηκε στην εταιρεία Gladstone AI από το Στέιτ Ντιπάρτμεντ τον Νοέμβριο του 2022 και παραδόθηκε ως έγγραφο 247 σελίδων στις 26 Φεβρουαρίου. Οι συστάσεις «δεν αντικατοπτρίζουν τις απόψεις του υπουργείου Εξωτερικών ή της κυβέρνησης των Ηνωμένων Πολιτειών», αναφέρεται στην πρώτη σελίδα της έκθεσης.
Οι συστάσεις της έκθεσης, πολλές από τις οποίες ήταν προηγουμένως αδιανόητες, ακολουθούν μια ιλιγγιώδη σειρά σημαντικών εξελίξεων στον τομέα της τεχνητής νοημοσύνης που έχουν κάνει πολλούς παρατηρητές να αναπροσαρμόσουν τη στάση τους απέναντι στην τεχνολογία.
Καθώς οι κυβερνήσεις σε όλο τον κόσμο συζητούν για το πώς θα ρυθμίσουν καλύτερα την τεχνητή νοημοσύνη, οι μεγαλύτερες εταιρείες τεχνολογίας στον κόσμο δημιούργησαν γρήγορα την υποδομή για να εκπαιδεύσουν την επόμενη γενιά πιο ισχυρών συστημάτων – σε ορισμένες περιπτώσεις σχεδιάζουν να χρησιμοποιήσουν 10 ή 100 φορές περισσότερη υπολογιστική ισχύ.
Εξαιρετικά απίθανο να υιοθετηθεί η σύσταση από την κυβέρνηση των ΗΠΑ
Η απαγόρευση της εκπαίδευσης προηγμένων συστημάτων τεχνητής νοημοσύνης πάνω από ένα ορισμένο όριο, αναφέρει η έκθεση, μπορεί να «μετριάσει τη δυναμική της κούρσας μεταξύ όλων των προγραμματιστών τεχνητής νοημοσύνης» και να συμβάλει στη μείωση της ταχύτητας της βιομηχανίας τσιπ που κατασκευάζει ταχύτερο υλικό.
Με την πάροδο του χρόνου, ένας ομοσπονδιακός οργανισμός τεχνητής νοημοσύνης θα μπορούσε να αυξήσει το όριο και να επιτρέψει την εκπαίδευση πιο προηγμένων συστημάτων μόλις αποδειχθεί επαρκώς η ασφάλεια των μοντέλων αιχμής, προτείνει η έκθεση. Εξίσου η κυβέρνηση θα μπορούσε να μειώσει το όριο ασφαλείας εάν ανακαλυφθούν επικίνδυνες δυνατότητες σε υπάρχοντα μοντέλα.
Η πρόταση πάντως είναι πιθανό να αντιμετωπίσει πολιτικές δυσκολίες. «Νομίζω ότι αυτή η σύσταση είναι εξαιρετικά απίθανο να υιοθετηθεί από την κυβέρνηση των Ηνωμένων Πολιτειών», είπε ο Γκρέγκ Άλεν, διευθυντής του Wadhwani Center for AI and Advanced Technologies στο Κέντρο Στρατηγικών και Διεθνών Σπουδών (CSIS), απαντώντας σε μια περίληψη που παρείχε το TIME για τη σύσταση της έκθεσης να τεθεί εκτός νόμου η διεξαγωγή εκπαιδευτικών τρεξίματος τεχνητής νοημοσύνης πάνω από ένα ορισμένο όριο.
«Χωρίς κάποιο είδος εξωγενούς σοκ, νομίζω ότι είναι αρκετά απίθανο να αλλάξουν αυτή την προσέγγιση», προσέθεσε ο Άλεν.
Οι δύο κατηγορίες κινδύνων
Η έκθεση επικεντρώνεται σε δύο ξεχωριστές κατηγορίες κινδύνων. Περιγράφοντας την πρώτη κατηγορία, την οποία αποκαλεί «κίνδυνο οπλοποίησης», η έκθεση αναφέρει: «τέτοια συστήματα θα μπορούσαν ενδεχομένως να χρησιμοποιηθούν για τον σχεδιασμό και ακόμη και την εκτέλεση καταστροφικών βιολογικών, χημικών όπλων ή κυβερνοεπιθέσεων ή να επιτρέψουν πρωτοφανείς εφαρμογές όπλων στη ρομποτική».
Η δεύτερη κατηγορία είναι αυτό που η έκθεση αποκαλεί «κίνδυνο απώλειας ελέγχου», ή η πιθανότητα τα προηγμένα συστήματα τεχνητής νοημοσύνης να ξεπεράσουν τους δημιουργούς τους. Υπάρχει, λέει η έκθεση, «λόγος να πιστεύουμε ότι μπορεί να είναι ανεξέλεγκτα, αν αναπτυχθούν με τις τρέχουσες τεχνικές και θα μπορούσαν να συμπεριφέρονται εχθρικά προς τον άνθρωπο εξ ορισμού».
Τεχνητή νοημοσύνη
Και οι δύο κατηγορίες κινδύνου, αναφέρει η έκθεση, επιδεινώνονται από τη «δυναμική της φυλής» στη βιομηχανία της τεχνητής νοημοσύνης. Η πιθανότητα ότι η πρώτη εταιρεία που θα επιτύχει την AGI θα αποκομίσει την πλειονότητα των οικονομικών οφελών, αναφέρει η έκθεση, δίνει κίνητρο στις εταιρείες να δώσουν προτεραιότητα στην ταχύτητα έναντι της ασφάλειας.
«Τα εργαστήρια τεχνητής νοημοσύνης αντιμετωπίζουν ένα έντονο και άμεσο κίνητρο για να κλιμακώσουν τα συστήματα όσο το δυνατόν γρηγορότερα», αναφέρει η έκθεση. «Δεν αντιμετωπίζουν άμεσο κίνητρο να επενδύσουν σε μέτρα ασφαλείας ή προστασίας που δεν αποφέρουν άμεσα οικονομικά οφέλη, παρόλο που ορισμένα το κάνουν από πραγματική ανησυχία».
Το εμπόδιο για την αύξηση των δυνατοτήτων της τεχνητής νοημοσύνης.
Η έκθεση Gladstone προσδιορίζει το υλικό – συγκεκριμένα τα υψηλής τεχνολογίας τσιπ υπολογιστών που χρησιμοποιούνται σήμερα για την εκπαίδευση των συστημάτων τεχνητής νοημοσύνης – ως σημαντικό εμπόδιο για την αύξηση των δυνατοτήτων της τεχνητής νοημοσύνης. Η ρύθμιση της διάδοσης αυτού του υλικού, υποστηρίζει η έκθεση, μπορεί να είναι η «πιο σημαντική απαίτηση για τη διασφάλιση της μακροπρόθεσμης παγκόσμιας ασφάλειας και προστασίας από την τεχνητή νοημοσύνη».
Η έκθεση εγείρει επίσης την πιθανότητα ότι, τελικά, τα φυσικά όρια του σύμπαντος μπορεί να μην είναι με το μέρος εκείνων που προσπαθούν να αποτρέψουν τη διάδοση της προηγμένης τεχνητής νοημοσύνης μέσω των τσιπ.
«Καθώς οι αλγόριθμοι τεχνητής νοημοσύνης συνεχίζουν να βελτιώνονται, περισσότερες δυνατότητες γίνονται διαθέσιμες για λιγότερους συνολικούς υπολογισμούς. Ανάλογα με το πόσο θα προχωρήσει αυτή η τάση, θα μπορούσε τελικά να καταστεί ανέφικτο να μετριαστεί καθόλου ο πολλαπλασιασμός της προηγμένης τεχνητής νοημοσύνης μέσω συγκεντρώσεων υπολογιστών», ανέφερει ακόμα.
Το χειρότερο σενάριο
Παρά τις προκλήσεις, οι συντάκτες της έκθεσης λένε ότι επηρεάστηκαν από το πόσο εύκολο και φθηνό είναι σήμερα για τους χρήστες να αφαιρούν τα προστατευτικά κιγκλιδώματα ασφαλείας σε ένα μοντέλο τεχνητής νοημοσύνης, εάν έχουν πρόσβαση στα βάρη του.
«Αν διαδώσετε ένα μοντέλο ανοιχτού κώδικα, ακόμη και αν φαίνεται ασφαλές, μπορεί να είναι επικίνδυνο στην πορεία», ο εκ των συντακτών της έκθεσης και διευθύνων σύμβουλος τεχνολογίας της Gladstone, Έντουαρντ Χάρις, προσθέτοντας ότι η απόφαση για ανοιχτό κώδικα ενός μοντέλου είναι μη αναστρέψιμη.
Αλλά το δόγμα, λέει, παύει να ισχύει όταν το πιθανό μειονέκτημα των ενεργειών σας είναι τόσο τεράστιο. «Η προεπιλεγμένη πορεία μας αυτή τη στιγμή φαίνεται να είναι πολύ κοντά στη δημιουργία συστημάτων που είναι αρκετά ισχυρά ώστε είτε να μπορούν να χρησιμοποιηθούν ως όπλα με καταστροφικό τρόπο είτε να μην μπορούν να ελεγχθούν», είπε από την πλευρά του ο CEO της Gladstone και αδερφός του Έντουαρντ, Τζο Χάρις.
«Ένα από τα χειρότερα σενάρια είναι να έχουμε ένα καταστροφικό γεγονός που θα κλείσει εντελώς την έρευνα για την τεχνητή νοημοσύνη για όλους και δεν θα μπορέσουμε να αποκομίσουμε τα απίστευτα οφέλη αυτής της τεχνολογίας», προσέθεσε.
[iEpikaira: Δηλαδή η Τεχνητή Νοημοσύνη, αφού αυτοανακηρύχθηκε "θεός" ΕΔΩ, τώρα απειλεί και το ανθρώπινο γένος...]
Πηγή: in.gr
Exclusive: U.S. Must Move ‘Decisively’ to Avert ‘Extinction-Level’ Threat From AI, Government-Commissioned Report Says
Lon Tweeten for TIME; Getty Images
BY BILLY PERRIGO, MARCH 11, 2024 9:00 AM EDT
The U.S. government must move “quickly and decisively” to avert substantial national security risks stemming from artificial intelligence (AI) which could, in the worst case, cause an “extinction-level threat to the human species,” says a report commissioned by the U.S. government published on Monday.
“Current frontier AI development poses urgent and growing risks to national security,” the report, which TIME obtained ahead of its publication, says. “The rise of advanced AI and AGI [artificial general intelligence] has the potential to destabilize global security in ways reminiscent of the introduction of nuclear weapons.” AGI is a hypothetical technology that could perform most tasks at or above the level of a human. Such systems do not currently exist, but the leading AI labs are working toward them and many expect AGI to arrive within the next five years or less.
The three authors of the report worked on it for more than a year, speaking with more than 200 government employees, experts, and workers at frontier AI companies—like OpenAI, Google DeepMind, Anthropic and Meta— as part of their research. Accounts from some of those conversations paint a disturbing picture, suggesting that many AI safety workers inside cutting-edge labs are concerned about perverse incentives driving decisionmaking by the executives who control their companies.
The finished document, titled “An Action Plan to Increase the Safety and Security of Advanced AI,” recommends a set of sweeping and unprecedented policy actions that, if enacted, would radically disrupt the AI industry. Congress should make it illegal, the report recommends, to train AI models using more than a certain level of computing power. The threshold, the report recommends, should be set by a new federal AI agency, although the report suggests, as an example, that the agency could set it just above the levels of computing power used to train current cutting-edge models like OpenAI’s GPT-4 and Google’s Gemini. The new AI agency should require AI companies on the “frontier” of the industry to obtain government permission to train and deploy new models above a certain lower threshold, the report adds. Authorities should also “urgently” consider outlawing the publication of the “weights,” or inner workings, of powerful AI models, for example under open-source licenses, with violations possibly punishable by jail time, the report says. And the government should further tighten controls on the manufacture and export of AI chips, and channel federal funding toward “alignment” research that seeks to make advanced AI safer, it recommends.
The report was commissioned by the State Department in November 2022 as part of a federal contract worth $250,000, according to public records. It was written by Gladstone AI, a four-person company that runs technical briefings on AI for government employees. (Parts of the action plan recommend that the government invests heavily in educating officials on the technical underpinnings of AI systems so they can better understand their risks.) The report was delivered as a 247-page document to the State Department on Feb. 26. The State Department did not respond to several requests for comment on the report. The recommendations “do not reflect the views of the United States Department of State or the United States Government,” the first page of the report says.
The report's recommendations, many of them previously unthinkable, follow a dizzying series of major developments in AI that have caused many observers to recalibrate their stance on the technology. The chatbot ChatGPT, released in November 2022, was the first time this pace of change became visible to society at large, leading many people to question whether future AIs might pose existential risks to humanity. New tools, with more capabilities, have continued to be released at a rapid clip since. As governments around the world discuss how best to regulate AI, the world’s biggest tech companies have fast been building out the infrastructure to train the next generation of more powerful systems—in some cases planning to use 10 or 100 times more computing power. Meanwhile, more than 80% of the American public believe AI could accidentally cause a catastrophic event, and 77% of voters believe the government should be doing more to regulate AI, according to recent polling by the AI Policy Institute.
Outlawing the training of advanced AI systems above a certain threshold, the report states, may “moderate race dynamics between all AI developers” and contribute to a reduction in the speed of the chip industry manufacturing faster hardware. Over time, a federal AI agency could raise the threshold and allow the training of more advanced AI systems once evidence of the safety of cutting-edge models is sufficiently proven, the report proposes. Equally, it says, the government could lower the safety threshold if dangerous capabilities are discovered in existing models.
The proposal is likely to face political difficulties. “I think that this recommendation is extremely unlikely to be adopted by the United States government” says Greg Allen, director of the Wadhwani Center for AI and Advanced Technologies at the Center for Strategic and International Studies (CSIS), in response to a summary TIME provided of the report’s recommendation to outlaw AI training runs above a certain threshold. Current U.S. government AI policy, he notes, is to set compute thresholds above which additional transparency monitoring and regulatory requirements apply, but not to set limits above which training runs would be illegal. “Absent some kind of exogenous shock, I think they are quite unlikely to change that approach,” Allen says.
Jeremie and Edouard Harris, the CEO and CTO of Gladstone respectively, have been briefing the U.S. government on the risks of AI since 2021. The duo, who are brothers, say that government officials who attended many of their earliest briefings agreed that the risks of AI were significant, but told them the responsibility for dealing with them fell to different teams or departments. In late 2021, the Harrises say Gladstone finally found an arm of the government with the responsibility to address AI risks: the State Department’s Bureau of International Security and Nonproliferation. Teams within the Bureau have an inter-agency mandate to address risks from emerging technologies including chemical and biological weapons, and radiological and nuclear risks. Following briefings by Jeremie and Gladstone's then-CEO Mark Beall, in October 2022 the Bureau put out a tender for report that could inform a decision whether to add AI to the list of other risks it monitors. (The State Department did not respond to a request for comment on the outcome of that decision.) The Gladstone team won that contract, and the report released Monday is the outcome.
The report focuses on two separate categories of risk. Describing the first category, which it calls “weaponization risk,” the report states: “such systems could potentially be used to design and even execute catastrophic biological, chemical, or cyber attacks, or enable unprecedented weaponized applications in swarm robotics.” The second category is what the report calls the “loss of control” risk, or the possibility that advanced AI systems may outmaneuver their creators. There is, the report says, “reason to believe that they may be uncontrollable if they are developed using current techniques, and could behave adversarially to human beings by default.”
Both categories of risk, the report says, are exacerbated by “race dynamics” in the AI industry. The likelihood that the first company to achieve AGI will reap the majority of economic rewards, the report says, incentivizes companies to prioritize speed over safety. “Frontier AI labs face an intense and immediate incentive to scale their AI systems as fast as they can,” the report says. “They do not face an immediate incentive to invest in safety or security measures that do not deliver direct economic benefits, even though some do out of genuine concern.”
The Gladstone report identifies hardware—specifically the high-end computer chips currently used to train AI systems—as a significant bottleneck to increases in AI capabilities. Regulating the proliferation of this hardware, the report argues, may be the “most important requirement to safeguard long-term global safety and security from AI.” It says the government should explore tying chip export licenses to the presence of on-chip technologies allowing monitoring of whether chips are being used in large AI training runs, as a way of enforcing proposed rules against training AI systems larger than GPT-4. However the report also notes that any interventions will need to account for the possibility that overregulation could bolster foreign chip industries, eroding the U.S.’s ability to influence the supply chain.
The report also raises the possibility that, ultimately, the physical bounds of the universe may not be on the side of those attempting to prevent proliferation of advanced AI through chips. “As AI algorithms continue to improve, more AI capabilities become available for less total compute. Depending on how far this trend progresses, it could ultimately become impractical to mitigate advanced AI proliferation through compute concentrations at all.” To account for this possibility, the report says a new federal AI agency could explore blocking the publication of research that improves algorithmic efficiency, though it concedes this may harm the U.S. AI industry and ultimately be unfeasible.
The Harrises recognize in conversation that their recommendations will strike many in the AI industry as overly zealous. The recommendation to outlaw the open-sourcing of advanced AI model weights, they expect, will not be popular. “Open source is generally a wonderful phenomenon and overall massively positive for the world,” says Edouard, the chief technology officer of Gladstone. “It’s an extremely challenging recommendation to make, and we spent a lot of time looking for ways around suggesting measures like this.” Allen, the AI policy expert at CSIS, says he is sympathetic to the idea that open-source AI makes it more difficult for policymakers to get a handle on the risks. But he says any proposal to outlaw the open-sourcing of models above a certain size would need to contend with the fact that U.S. law has a limited reach. “Would that just mean that the open source community would move to Europe?” he says. “Given that it's a big world, you sort of have to take that into account.”
Despite the challenges, the report’s authors say they were swayed by how easy and cheap it currently is for users to remove safety guardrails on an AI model if they have access to its weights. “If you proliferate an open source model, even if it looks safe, it could still be dangerous down the road,” Edouard says, adding that the decision to open-source a model is irreversible. “At that point, good luck, all you can do is just take the damage.”
The third co-author of the report, former Defense Department official Beall, has since left Gladstone in order to start a super PAC aimed at advocating for AI policy. The PAC, called Americans for AI Safety, officially launched on Monday. It aims to make AI safety and security "a key issue in the 2024 elections, with a goal of passing AI safety legislation by the end of 2024," the group said in a statement to TIME. The PAC did not disclose its funding commitments, but said it has "set a goal of raising millions of dollars to accomplish its mission."
Before co-founding Gladstone with Beall, the Harris brothers ran an AI company that went through YCombinator, the famed Silicon Valley incubator, at the time when OpenAI CEO Sam Altman was at the helm. The pair brandish these credentials as evidence they have the industry’s interests at heart, even as their recommendations, if implemented, would upend it. “Move fast and break things, we love that philosophy, we grew up with that philosophy,” Jeremie tells TIME. But the credo, he says, ceases to apply when the potential downside of your actions is so massive. “Our default trajectory right now,” he says, “seems very much on course to create systems that are powerful enough that they either can be weaponized catastrophically, or fail to be controlled.” He adds: “One of the worst-case scenarios is you get a catastrophic event that completely shuts down AI research for everybody, and we don't get to reap the incredible benefits of this technology.”
Source: https://time.com/6898967/ai-extinction-national-security-risks-report/
