«Η τεχνητή νοημοσύνη, η οποία ξεπερνά τη δυνατότητα σκέψης των ανθρώπων και εξελίσσεται με τρόπο που λειτουργεί αυτόνομα, θα μπορούσε να γίνει επικίνδυνη λόγω της έλλειψης ξεκάθαρων κανόνων και ελέγχων», ανέφεραν δύο από τους πιο σημαντικούς επιστήμονες στον τομέα της τεχνητής νοημοσύνης σε συνέντευξή τους στο CNBC.

Στο τελευταίο επεισόδιο του podcast «Beyond The Valley» του CNBC, το οποίο κυκλοφόρησε στις 4 Φεβρουαρίου, ο Μαξ Τέγκμαρκ, καθηγητής στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης και πρόεδρος του Ινστιτούτου Future of Life, καθώς και ο Γιόσουα Μπέντζιο, ο οποίος θεωρείται ένας από τους «νονούς της τεχνητής νοημοσύνης» και καθηγητής στο Πανεπιστήμιο του Μοντρεάλ, συζήτησαν τις ανησυχίες τους σχετικά με την τεχνητή γενική νοημοσύνη, ή αλλιώς AGI. (Ο όρος «AGI» αναφέρεται σε συστήματα τεχνητής νοημοσύνης που είναι πιο έξυπνα από τους ανθρώπους).

Οι ανησυχίες τους προέρχονται από το γεγονός ότι οι μεγαλύτερες εταιρείες στον κόσμο μιλούν πλέον για «πράκτορες ΤΝ» ή «agentic AI», που είναι συστήματα τεχνητής νοημοσύνης που αναλαμβάνουν πρωτοβουλίες και εκτελούν εργασίες αυτόνομα, χωρίς να απαιτούν συνεχώς ανθρώπινη παρέμβαση. Οι εταιρείες αυτές υποστηρίζουν ότι τα AI chatbots θα μπορούν να λειτουργούν αναλαμβάνοντας καθήκοντα και βοηθώντας στην εργασία και την καθημερινή ζωή.

Ο Μπέντζιο εξηγεί ότι τα συστήματα AI θα μπορούσαν να αναπτύξουν την ικανότητα να ενεργούν με δική τους πρωτοβουλία, παίρνοντας αποφάσεις και σκεπτόμενα αυτόνομα, χωρίς να εξαρτώνται συνεχώς από ανθρώπινη καθοδήγηση.

Ο Μπέντζιο δήλωσε στην εκπομπή «Beyond The Valley» του CNBC ότι οι ερευνητές της τεχνητής νοημοσύνης «προσπαθούν να δημιουργήσουν μηχανές που σκέφτονται όπως οι άνθρωποι». Για ανθρώπους, η νοημοσύνη περιλαμβάνει τόσο την ικανότητα κατανόησης του κόσμου όσο και τη δυνατότητα χρήσης των γνώσεων για την επίτευξη στόχων.

«Αυτή τη στιγμή, προσπαθούμε να δημιουργήσουμε συστήματα AGI που κατανοούν σε βάθος τον κόσμο και μπορούν να ενεργούν ανάλογα. Ωστόσο, κάτι τέτοιο είναι στην πραγματικότητα ιδιαίτερα επικίνδυνο», δήλωσε ο Μπέντζιο.

«Βέβαια, η προσπάθεια να επιτευχθεί κάτι τέτοιο θα ήταν σαν να δημιουργούμε ένα νέο είδος ή μια νέα νοήμονα οντότητα σε αυτόν τον πλανήτη. Κάτι τέτοιο ίσως μας δυσκόλευε στο να γνωρίζουμε με βεβαιότητα το αν αυτές οι οντότητες θα συμπεριφέρονται με τρόπους που να συμφωνούν με τις ανάγκες μας», πρόσθεσε ο Μπέντζιο.

«Αντ’ αυτού, μπορούμε να σκεφτούμε ποια σενάρια θα μπορούσαν να οδηγήσουν σε προβλήματα, αν όλα εξαρτώνται από την τεχνητή νοημοσύνη. Με άλλα λόγια, επειδή η τεχνητή νοημοσύνη μπορεί να έχει τους δικούς της στόχους, μπορεί να προκύψουν σοβαρά προβλήματα», πρόσθεσε ο ίδιος.

Ο Μπέντζιο δήλωσε ότι καθώς η τεχνητή νοημοσύνη γίνεται όλο και πιο έξυπνη, θα μπορούσε να αρχίσει να αναπτύσσει την ικανότητα να λειτουργεί ανεξάρτητα, χωρίς την ανάγκη για ανθρώπινη παρέμβαση.

«Θέλουμε να ανταγωνιζόμαστε οντότητες που είναι πιο έξυπνες από εμάς; Δεν ακούγεται και πολύ καθησυχαστικό, έτσι δεν είναι; Πρέπει, λοιπόν, να κατανοήσουμε το γεγονός ότι εφόσον η τεχνητή νοημοσύνη ξεκινήσει να λειτουργεί εντελώς ανεξάρτητα από εμάς, εγκυμονούν τεράστιοι κίνδυνοι».

Τα εργαλεία AI ίσως είναι το «κλειδί»

Για τον Τέγκμαρκ, το κλειδί βρίσκεται στα «εργαλεία AI» – συστήματα που δημιουργούνται για έναν συγκεκριμένο, περιορισμένο σκοπό, χωρίς να χρειάζεται να έχουν την ικανότητα να δρουν αυτόνομα.

Ο Τέγκμαρκ εξήγησε ότι ένα εργαλείο AI θα μπορούσε να είναι ένα σύστημα που βοηθάει σε συγκεκριμένα προβλήματα, όπως η θεραπεία του καρκίνου. Μπορούν επίσης να περιλαμβάνουν συστήματα που λειτουργούν αυτόνομα, όπως ένα αυτοκίνητο που οδηγεί μόνο του. Ωστόσο, η διαφορά είναι ότι σε αυτές τις περιπτώσεις, ο άνθρωπος θα έχει πάντα τον έλεγχο.

«Πιστεύω ότι, αν παραμείνουμε αισιόδοξοι, μπορούμε να επωφεληθούμε από τα θετικά της τεχνητής νοημοσύνης, αρκεί να θέσουμε αυστηρούς κανόνες ασφαλείας πριν επιτραπεί η διάθεση ισχυρών συστημάτων AI στην αγορά», δήλωσε ο Τέγκμαρκ.

«Πρέπει να εξασφαλίσουμε ότι μπορούμε να τα κρατήσουμε τα πάντα υπό έλεγχο. Αν το καταφέρουμε, η βιομηχανία θα κινηθεί γρήγορα για να βρει τους καλύτερους τρόπους να αναπτύξει αυτά τα μοντέλα ΤΝ με ασφάλεια, αποτρέποντας πιθανούς κινδύνους».

Το 2023, το Ινστιτούτο Future of Life ζήτησε να σταματήσει η ανάπτυξη συστημάτων τεχνητής νοημοσύνης που μπορούν να ανταγωνιστούν την ανθρώπινη νοημοσύνη. Παρά το γεγονός ότι αυτό δεν συνέβη, ο Τέγκμαρκ ανέφερε ότι τώρα οι συζητήσεις περί του θέματος «γίνονται ολοένα και περισσότερες». Ο ίδιος δήλωσε πως «έχει έρθει η ώρα να ληφθούν μέτρα για να βρεθούν τρόποι που θα επιτρέπουν τον έλεγχο της AGI με ασφάλεια, μέσω προστατευτικών μηχανισμών».

«Είναι ξεκάθαρα παράλογο για εμάς τους ανθρώπους να κατασκευάσουμε κάτι πολύ πιο έξυπνο από εμάς πριν καταλάβουμε πώς να το ελέγξουμε», πρόσθεσε ο ίδιος.

Υπάρχουν ποικίλες απόψεις σχετικά με το πότε θα τεθούν σε εφαρμογή συστήματα AGI, εν μέρει λόγω των διαφορετικών ορισμών που της αποδίδονται.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε ότι η εταιρεία του γνωρίζει πώς να κατασκευάσει την AGI, η οποία θα φτάσει «νωρίτερα από ό,τι πιστεύει ο κόσμος», αν και υποβάθμισε τα προβλήματα που ίσως προκύψουν λόγω της ραγδαίας ανάπτυξης της τεχνολογίας.

«Η εκτίμησή μου είναι ότι θα εφαρμοσθούν συστήματα AGI νωρίτερα από ό,τι πιστεύουν οι περισσότεροι άνθρωποι, αλλά δεν θα έχει μεγάλη σημασία», δήλωσε ο Άλτμαν τον Δεκέμβριο.

Διαβάστε ακόμη 

Ταμείο Ανάκαμψης: Τι προλαβαίνει η Ελλάδα μέχρι το τέλος του 2026

Αγώνας δρόμου στις Βρυξέλλες για να εξαιρεθούν τα ελληνικά προϊόντα από τους δασμούς 15%

Ο μεγιστάνας των 155 δισεκατομμυρίων και οι βόλτες στην Ελλάδα (pics)

Για όλες τις υπόλοιπες ειδήσεις της επικαιρότητας μπορείτε να επισκεφτείτε το Πρώτο Θέμα