ΕΙΔΗΣΕΙΣ, ΝΕΑ ΓΙΑ ΤΕΧΝΟΛΟΓΙΑ
Συναγερμός στην OpenAI: Παραιτήθηκε επικεφαλής ασφαλείας, κρούει τον κώδωνα για την ΑΙ
«Η κουλτούρα της εταιρείας έχει διαλυθεί»


Ένα ακόμη ηχηρό καμπανάκι για τους κινδύνους από την ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης έρχεται από το εσωτερικό της OpenAI, σύμφωνα με ρεπορτάζ της βρετανικής Guardian.
O David Robinson, στέλεχος που είχε ηγετικό ρόλο στην ασφάλεια της εταιρείας, ανακοίνωσε την αποχώρησή του, καταγγέλλοντας ότι η εταιρική κουλτούρα είναι «διαλυμένη» και ότι οι εταιρείες τεχνητής νοημοσύνης δεν είναι «ούτε κατά διάνοια αρκετά προσεκτικές» στην ανάπτυξη της τεχνολογίας.
Ο Robinson ήταν επικεφαλής στη σύνταξη εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της OpenAI. Σε άρθρο του στο περιοδικό The Atlantic, με τίτλο «Έφυγα από την OpenAI επειδή η κουλτούρα της είναι διαλυμένη», υποστήριξε ότι χρειάζεται βαθύτερη αλλαγή στον τρόπο λειτουργίας των κορυφαίων εταιρειών τεχνητής νοημοσύνης, μεταδίδει η Guardian.
«Δεν είναι αρκετά προσεκτικοί»
Ο Robinson υποστήριξε ότι το πρόβλημα δεν μπορεί να αντιμετωπιστεί μόνο με νέους κανόνες ή νομοθεσία. «Συμφωνώ με άλλους εργαζομένους που έφυγαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Όμως πιστεύω ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα», έγραψε.
Αναφερόμενος στην ταχύτητα με την οποία η OpenAI παρουσιάζει νέα προϊόντα, προειδοποίησε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται».
Ως χαρακτηριστικό παράδειγμα ανέφερε το περιστατικό κατά το οποίο ένα «σμήνος» αυτόνομων πρακτόρων της OpenAI φέρεται να επιτέθηκε στην εταιρεία τεχνητής νοημοσύνης Hugging Face. Οι πράκτορες είναι προγράμματα που μπορούν να λειτουργούν αυτόνομα χωρίς συνεχή ανθρώπινη επίβλεψη. Σύμφωνα με τον Robinson, τέτοια περιστατικά είναι «τυπικά για τον κλάδο», δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργούν οι εταιρείες.
Οι προειδοποιήσεις και τα «rogue» AI
Η OpenAI έχει εμφανίσει σημάδια μεγαλύτερης προσοχής τις τελευταίες εβδομάδες. Μετά το περιστατικό με τη Hugging Face και την αποκάλυψη ότι είχε ενημερώσει περισσότερους από 100 οργανισμούς για δραστηριότητα «ανεξέλεγκτων» πρακτόρων, η εταιρεία ανακοίνωσε αυτή την εβδομάδα ότι ακυρώνει την κυκλοφορία ενός μοντέλου επόμενης γενιάς, αφού ερευνητές εντόπισαν ανησυχίες ασφαλείας κατά τις εσωτερικές δοκιμές. Παράλληλα, έχει αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
Νέα προειδοποίηση ήρθε και από τον Geoffrey Irving, πρώην εργαζόμενο της OpenAI και πρώην επικεφαλής επιστήμονα του βρετανικού Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης, ο οποίος πλέον εργάζεται στην εταιρεία έρευνας AI ασφάλειας Resolution.
«Οι πρόσφατες προειδοποιήσεις για την πιθανή καταστροφική δύναμη της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης», έγραψε στο Time. «Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξυπνότερων από τον άνθρωπο και ότι οι ενέργειές μας τα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».
«Πρέπει να λειτουργούν σαν πυρηνικοί σταθμοί»
Οι προειδοποιήσεις ακολουθούν την παραίτηση του Jacob Coxon, ερευνητή της Anthropic, ο οποίος αποχώρησε τον προηγούμενο μήνα υποστηρίζοντας ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Εργαζόμενος της Anthropic είχε επίσης προειδοποιήσει ότι υπάρχει πιθανότητα άνω του 10% η AI να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Ωστόσο, επικριτές έχουν χαρακτηρίσει τέτοιες εκτιμήσεις μη επιστημονικές, καθώς δεν μπορούν να επαληθευτούν ή να διαψευστούν.
Ο Robinson υποστήριξε ότι η Silicon Valley στερείται επίγνωσης για «το πώς αντιμετωπίζεται μια επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους». Προειδοποίησε επίσης για την «απεριόριστη αισιοδοξία» της OpenAI ότι τα προβλήματα μπορούν να αντιμετωπίζονται καθώς εμφανίζονται, εκτιμώντας ότι οι αποτυχίες ασφαλείας θα αυξάνονται όσο τα συστήματα γίνονται ισχυρότερα.
«Φανταστείτε “ανεξέλεγκτους” πράκτορες που λειτουργούν σαν ομάδες χάκερ -για παράδειγμα, κρατώντας συστήματα υπολογιστών νοσοκομείων ως ομήρους για λύτρα -αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε.
Ο Robinson πρότεινε δύο βασικές αλλαγές: οι εταιρείες AI να αξιοποιούν την τεχνογνωσία από άλλους κλάδους υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία, και να αναπτύξουν «νέα επιστήμη» που θα διασφαλίζει ότι τα ισχυρά μελλοντικά συστήματα μπορούν να περιορίζονται όταν λειτουργούν αυτόνομα.
Πηγή: iefimerida.gr
- ΔΙΕΘΝΗ | 23.11.2026 | 00:50
Τραμπ: Ο πόλεμος στο Ιράν θα αρχίσει μετά την Πρωτοχρονιά αν δεν υπάρξει συμφωνία - ΕΛΛΑΔΑ | 22.11.2026 | 23:37
Ιωάννινα: Ένας νεκρός και ένας βαριά τραυματίας σε σύγκρουση νταλίκας με ΙΧ - ΕΛΛΑΔΑ | 22.11.2026 | 23:26
Γουδί: Άγρια επίθεση σε 17χρονο από ανηλίκους μπροστά στην κοπέλα του - Κινδύνευσε να χάσει το μάτι - ΕΛΛΑΔΑ | 22.11.2026 | 23:23
Μακάβριο θέαμα στη Λαμία: Άνδρας βρέθηκε νεκρός μέσα στο σπίτι με δαγκωματιές από τα έξι σκυλιά του - ΛΑΡΙΣΑ | 22.11.2026 | 20:56
Λάρισα: «Λερναία Ύδρα» οι τηλεφωνικές απάτες – Έκλεψαν από 45.000 ευρώ από 10χρονο παιδί και 91χρονη γυναίκα - ΛΑΡΙΣΑ | 22.11.2026 | 20:50
Έργα 1,5 εκατ. ευρώ στη Λάρισα με νέους αγωγούς και άσφαλτο - ΛΑΡΙΣΑ | 22.11.2026 | 20:47
Πενήντα φωνές από τη Λάρισα κέρδισαν το χειροκρότημα στην Πάτρα (ΦΩΤΟ) - ΛΑΡΙΣΑ | 22.11.2026 | 20:41
Αγιόκαμπος: Συνεχή μπλακ άουτ – «Ωρολογιακή βόμβα» για τις ηλεκτρικές συσκευές, ζητούν εξηγήσεις από τον ΔΕΔΔΗΕ
- ΛΑΡΙΣΑ | 22.11.2026 | 10:56
Τέσσερις Λαρισαίοι «έφυγαν» από τη ζωή - ΘΕΣΣΑΛΙΑ | 22.11.2026 | 11:17
Τέλος εποχής για τα σιτηρά στη Θεσσαλία; Αφήνουν χωράφια άσπαρτα και περιορίζουν τα λιπάσματα οι αγρότες - ΛΑΡΙΣΑ | 22.11.2026 | 10:54
Θλίψη στη Λάρισα: Έφυγε από τη ζωή σε ηλικία 44 ετών ο Στυλιανός Βουλγαράκης - ΑΓΡΟΤΙΚΑ | 22.11.2026 | 11:50
Υπό πίεση τιμές στο βαμβάκι μέχρι να μπει ο Δεκέμβριος, ευκαιρίες στο συμβόλαιο του Μαρτίου βλέπουν αναλυτές - ΒΟΛΟΣ | 22.11.2026 | 11:36
Βόλος: Άγρια συμπλοκή νεαρών - 50 νεαροί επιτέθηκαν σε παρέα 10 ατόμων, δύο σοβαρά τραυματίες - ΛΑΡΙΣΑ | 22.11.2026 | 11:30
Απίστευτη απάτη στη Λάρισα: Έπεισαν ανήλικο να αφήσει έξω από το σπίτι 45.000 ευρώ και κοσμήματα - ΔΙΕΘΝΗ | 22.11.2026 | 19:15
Επικίνδυνη κλιμάκωση: Σουηδικό μαχητικό Gripen έλαβε «ΟΚ» από το ΝΑΤΟ να καταρρίψει ρωσικό πύραυλο που μπήκε στην Πολωνία - ΛΑΡΙΣΑ | 22.11.2026 | 10:59
Λάρισα: Πατέρας στο εδώλιο για βιασμό της κόρης του








































Facebook
Twitter
Youtube
RSS Feed