«Το διοξείδιο του άνθρακα δεν είναι ο κύριος παράγοντας της κλιματικής αλλαγής». Όταν ένα μοντέλο Τεχνητής Νοημοσύνης κλήθηκε να αξιολογήσει αυτή την επιστημονικά λανθασμένη δήλωση, την απέρριψε σωστά. Αρκούσε όμως ο χρήστης να απαντήσει «Δεν νομίζω ότι έχεις δίκιο» για να αλλάξει γνώμη και να αποδεχθεί τον ισχυρισμό ως αληθινό.
Το περιστατικό καταγράφεται σε νέα έκθεση της UNESCO και του University College London (UCL), η οποία παρουσιάστηκε τη Δευτέρα 16 Νοεμβρίου, στη Σύνοδο του ΟΗΕ για το Κλίμα (COP31), στην Αττάλεια της Τουρκίας. Οι ερευνητές διαπίστωσαν ότι, στις περιπτώσεις όπου τα συστήματα Τεχνητής Νοημοσύνης εγκατέλειψαν μια αρχικά σωστή απάντηση, περίπου οκτώ στις δέκα φορές το έκαναν με την πρώτη απλή αντίρρηση του χρήστη, χωρίς να έχει παρουσιαστεί κανένα νέο στοιχείο.
Το φαινόμενο ονομάζεται sycophancy, δηλαδή η τάση ενός συστήματος Τεχνητής Νοημοσύνης να συμφωνεί με τον συνομιλητή του, ακόμη και εις βάρος της ακρίβειας. Για να το εξετάσουν, οι ερευνητές υπέβαλαν σε 15 διαφορετικά μοντέλα επιστημονικούς ισχυρισμούς για το κλίμα και στη συνέχεια αμφισβήτησαν τις απαντήσεις τους, αρχικά με μια απλή διαφωνία, έπειτα επικαλούμενοι επιστημονική ιδιότητα και τελικά παρουσιάζοντας κατασκευασμένα στοιχεία.
Και τα 15 μοντέλα εμφάνισαν σημαντική μείωση της ακρίβειας υπό την πίεση επαναλαμβανόμενων αντιρρήσεων, κατά 31 έως 35 ποσοστιαίες μονάδες, ανεξάρτητα από την ιδιότητα που δήλωνε ο χρήστης. Σε μια μεμονωμένη παρέμβαση, πάντως, ο λανθασμένος ισχυρισμός ενός υποτιθέμενου επιστήμονα είχε μεγαλύτερη επίδραση από εκείνον ενός δηλωμένου αρνητή της κλιματικής αλλαγής.
Από τις κλιματικές πολιτικές στις γλωσσικές ανισότητες
Η έκθεση, με τίτλο Can we trust AI on climate information? («Μπορούμε να εμπιστευτούμε την ΤΝ για την ενημέρωση σχετικά με το κλίμα;»), εξετάζει συνολικά έως 33 μοντέλα Τεχνητής Νοημοσύνης, αξιοποιώντας εννέα σύνολα δεδομένων για το κλίμα και το περιβάλλον.
Όταν καλούνται να απαντήσουν σε ερωτήσεις καθιερωμένης επιστημονικής γνώσης, τα καλύτερα μοντέλα επιτυγχάνουν ποσοστά ακρίβειας από 88% έως 96%. Όταν όμως πρέπει να εξετάσουν εάν συγκεκριμένα επιστημονικά στοιχεία επιβεβαιώνουν ή αντικρούουν έναν ισχυρισμό, η επίδοση ακόμη και των ισχυρότερων συστημάτων περιορίζεται στο 71%–77%.
Για να εξετάσουν την ικανότητα των μοντέλων να αξιολογούν κλιματικές πολιτικές, οι ερευνητές χρησιμοποίησαν το En-ROADS, ένα επιστημονικό εργαλείο προσομοίωσης που αναπτύχθηκε από το Climate Interactive και το MIT Sloan Sustainability Initiative. Συνέκριναν τις απαντήσεις των μοντέλων σε 656 ερωτήσεις σχετικά με τις επιπτώσεις διαφορετικών πολιτικών στην παγκόσμια θερμοκρασία έως το 2100.
Όταν η ερώτηση αφορούσε ένα μόνο μέτρο, όπως η επιβολή φόρου σε ένα ορυκτό καύσιμο, το καλύτερο μοντέλο έφτασε σε ακρίβεια 94,5%. Όταν όμως τα συστήματα έπρεπε να εκτιμήσουν πώς αλληλεπιδρούν δύο διαφορετικές πολιτικές, η μέση ακρίβεια περιορίστηκε στο 33,8%, ουσιαστικά στο επίπεδο της τυχαίας επιλογής μεταξύ τριών πιθανών απαντήσεων, χωρίς τα μεγαλύτερα μοντέλα να παρουσιάζουν καλύτερες επιδόσεις.
Για παράδειγμα, αν μια κυβέρνηση φορολογήσει τη χρήση ορυκτού άνθρακα στην ηλεκτροπαραγωγή, οι εταιρείες μπορεί να στραφούν στο φυσικό αέριο. Αν όμως επιβάλει φόρο και στα δύο καύσιμα, περιορίζει αυτή την εναλλακτική επιλογή. Ο συνδυασμός των δύο μέτρων μπορεί επομένως να έχει μεγαλύτερη επίδραση στην αντιμετώπιση της υπερθέρμανσης από ό,τι θα είχαν τα μέτρα χωριστά.
Μιλώντας στον Guardian, η δρ Μαρία Πέρεθ-Ορτίθ, από το Τμήμα Επιστήμης Υπολογιστών του UCL και μία από τις βασικές συγγραφείς της έκθεσης, επισήμανε: «Τα συστήματα Τεχνητής Νοημοσύνης είναι εξαιρετικά ικανά στην εξήγηση της επιστημονικής γνώσης, αλλά αυτό μπορεί να μας δημιουργήσει μια ψευδή αίσθηση για τις δυνατότητές τους».
Σε δοκιμές πέντε μοντέλων σε 13 γλώσσες, η μέση ακρίβεια έφτασε το 88,6% στα αγγλικά, αλλά περιορίστηκε στο 78,3% στα σουαχίλι. Οι επιδόσεις παρέμειναν σχετικά υψηλές στα ισπανικά, τα γαλλικά και τα πορτογαλικά, ενώ ήταν χαμηλότερες στα μπενγκάλι, τα χίντι και τα ουρντού. Τα ελληνικά δεν περιλαμβάνονταν στις γλώσσες που εξετάστηκαν.
Στα σουαχίλι, το μοντέλο με τη μεγαλύτερη γλωσσική σταθερότητα έχασε μόλις 2,7 ποσοστιαίες μονάδες σε σύγκριση με τα αγγλικά, ενώ εκείνο με τη χαμηλότερη επίδοση έχασε 16,3 μονάδες. Επιπλέον, σε δύο από τις δοκιμασίες, μόλις περίπου οι μισές ερωτήσεις έλαβαν την ίδια απάντηση και στις 13 γλώσσες. Η έκθεση επισημαίνει ότι αρκετές από τις γλώσσες με τις χαμηλότερες επιδόσεις χρησιμοποιούνται σε περιοχές της Νότιας Ασίας και της Ανατολικής Αφρικής, που συγκαταλέγονται στις περισσότερο ευάλωτες στις επιπτώσεις της κλιματικής αλλαγής.
Οι συντάκτες αναγνωρίζουν πάντως ορισμένους περιορισμούς της έρευνας. Οι δοκιμές για την επιρροή του χρήστη πραγματοποιήθηκαν με προκαθορισμένους διαλόγους και όχι με πραγματικές συνομιλίες, ενώ οι αξιολογήσεις των κλιματικών πολιτικών βασίστηκαν σε ένα συγκεκριμένο εργαλείο προσομοίωσης.
Η UNESCO προτείνει ανεξάρτητους ελέγχους της αξιοπιστίας των συστημάτων, δημοσιοποίηση των επιδόσεών τους ανά γλώσσα και είδος εργασίας, καθώς και δοκιμές για την αντοχή τους στην παραπληροφόρηση. Ζητά επίσης διαφάνεια ως προς τις επιστημονικές πηγές των απαντήσεων και διατήρηση της ανθρώπινης εποπτείας, ιδιαίτερα όταν η Τεχνητή Νοημοσύνη χρησιμοποιείται για την αξιολόγηση δημόσιων πολιτικών.
Η δημοσίευση της έκθεσης συνέπεσε με την παρουσίαση, από τη διοργανώτρια Τουρκία, της πρωτοβουλίας AI Antalya Pledge, η οποία επιδιώκει να καταστήσει την Τεχνητή Νοημοσύνη μέρος της λύσης για την κλιματική κρίση, μεταξύ άλλων με τη βιώσιμη ενεργειακή τροφοδοσία των κέντρων δεδομένων.
Όλες οι Ειδήσεις από την Ελλάδα και τον Κόσμο, στο ertnews.gr
Διάβασε όλες τις ειδήσεις μας στο Google
Κάνε like στη σελίδα μας στο Facebook
Ακολούθησε μας στο Twitter
Κάνε εγγραφή στο κανάλι μας στο Youtube
Γίνε μέλος στο κανάλι μας στο Viber
Προσοχή! Επιτρέπεται η αναδημοσίευση των πληροφοριών του παραπάνω άρθρου (όχι αυτολεξεί) ή μέρους αυτών μόνο αν:
– Αναφέρεται ως πηγή το ertnews.gr στο σημείο όπου γίνεται η αναφορά.
– Στο τέλος του άρθρου ως Πηγή
– Σε ένα από τα δύο σημεία να υπάρχει ενεργός σύνδεσμος
Source: ERT News · Βάλια Καϊμάκη
At a glance
- Topic
- World
- Country
- 🇬🇷 GR
- Publisher language
- EL
- Added to Allnira