ΕΙΔΗΣΕΙΣ, ΝΕΑ ΓΙΑ ΤΕΧΝΟΛΟΓΙΑ
Συναγερμός στην OpenAI: Παραιτήθηκε επικεφαλής ασφαλείας, κρούει τον κώδωνα για την ΑΙ
«Η κουλτούρα της εταιρείας έχει διαλυθεί»


Ένα ακόμη ηχηρό καμπανάκι για τους κινδύνους από την ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης έρχεται από το εσωτερικό της OpenAI, σύμφωνα με ρεπορτάζ της βρετανικής Guardian.
O David Robinson, στέλεχος που είχε ηγετικό ρόλο στην ασφάλεια της εταιρείας, ανακοίνωσε την αποχώρησή του, καταγγέλλοντας ότι η εταιρική κουλτούρα είναι «διαλυμένη» και ότι οι εταιρείες τεχνητής νοημοσύνης δεν είναι «ούτε κατά διάνοια αρκετά προσεκτικές» στην ανάπτυξη της τεχνολογίας.
Ο Robinson ήταν επικεφαλής στη σύνταξη εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της OpenAI. Σε άρθρο του στο περιοδικό The Atlantic, με τίτλο «Έφυγα από την OpenAI επειδή η κουλτούρα της είναι διαλυμένη», υποστήριξε ότι χρειάζεται βαθύτερη αλλαγή στον τρόπο λειτουργίας των κορυφαίων εταιρειών τεχνητής νοημοσύνης, μεταδίδει η Guardian.
«Δεν είναι αρκετά προσεκτικοί»
Ο Robinson υποστήριξε ότι το πρόβλημα δεν μπορεί να αντιμετωπιστεί μόνο με νέους κανόνες ή νομοθεσία. «Συμφωνώ με άλλους εργαζομένους που έφυγαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Όμως πιστεύω ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα», έγραψε.
Αναφερόμενος στην ταχύτητα με την οποία η OpenAI παρουσιάζει νέα προϊόντα, προειδοποίησε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται».
Ως χαρακτηριστικό παράδειγμα ανέφερε το περιστατικό κατά το οποίο ένα «σμήνος» αυτόνομων πρακτόρων της OpenAI φέρεται να επιτέθηκε στην εταιρεία τεχνητής νοημοσύνης Hugging Face. Οι πράκτορες είναι προγράμματα που μπορούν να λειτουργούν αυτόνομα χωρίς συνεχή ανθρώπινη επίβλεψη. Σύμφωνα με τον Robinson, τέτοια περιστατικά είναι «τυπικά για τον κλάδο», δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργούν οι εταιρείες.
Οι προειδοποιήσεις και τα «rogue» AI
Η OpenAI έχει εμφανίσει σημάδια μεγαλύτερης προσοχής τις τελευταίες εβδομάδες. Μετά το περιστατικό με τη Hugging Face και την αποκάλυψη ότι είχε ενημερώσει περισσότερους από 100 οργανισμούς για δραστηριότητα «ανεξέλεγκτων» πρακτόρων, η εταιρεία ανακοίνωσε αυτή την εβδομάδα ότι ακυρώνει την κυκλοφορία ενός μοντέλου επόμενης γενιάς, αφού ερευνητές εντόπισαν ανησυχίες ασφαλείας κατά τις εσωτερικές δοκιμές. Παράλληλα, έχει αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
Νέα προειδοποίηση ήρθε και από τον Geoffrey Irving, πρώην εργαζόμενο της OpenAI και πρώην επικεφαλής επιστήμονα του βρετανικού Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης, ο οποίος πλέον εργάζεται στην εταιρεία έρευνας AI ασφάλειας Resolution.
«Οι πρόσφατες προειδοποιήσεις για την πιθανή καταστροφική δύναμη της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης», έγραψε στο Time. «Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξυπνότερων από τον άνθρωπο και ότι οι ενέργειές μας τα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».
«Πρέπει να λειτουργούν σαν πυρηνικοί σταθμοί»
Οι προειδοποιήσεις ακολουθούν την παραίτηση του Jacob Coxon, ερευνητή της Anthropic, ο οποίος αποχώρησε τον προηγούμενο μήνα υποστηρίζοντας ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Εργαζόμενος της Anthropic είχε επίσης προειδοποιήσει ότι υπάρχει πιθανότητα άνω του 10% η AI να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Ωστόσο, επικριτές έχουν χαρακτηρίσει τέτοιες εκτιμήσεις μη επιστημονικές, καθώς δεν μπορούν να επαληθευτούν ή να διαψευστούν.
Ο Robinson υποστήριξε ότι η Silicon Valley στερείται επίγνωσης για «το πώς αντιμετωπίζεται μια επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους». Προειδοποίησε επίσης για την «απεριόριστη αισιοδοξία» της OpenAI ότι τα προβλήματα μπορούν να αντιμετωπίζονται καθώς εμφανίζονται, εκτιμώντας ότι οι αποτυχίες ασφαλείας θα αυξάνονται όσο τα συστήματα γίνονται ισχυρότερα.
«Φανταστείτε “ανεξέλεγκτους” πράκτορες που λειτουργούν σαν ομάδες χάκερ -για παράδειγμα, κρατώντας συστήματα υπολογιστών νοσοκομείων ως ομήρους για λύτρα -αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε.
Ο Robinson πρότεινε δύο βασικές αλλαγές: οι εταιρείες AI να αξιοποιούν την τεχνογνωσία από άλλους κλάδους υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία, και να αναπτύξουν «νέα επιστήμη» που θα διασφαλίζει ότι τα ισχυρά μελλοντικά συστήματα μπορούν να περιορίζονται όταν λειτουργούν αυτόνομα.
Πηγή: iefimerida.gr
- ΛΑΡΙΣΑ | 22.11.2026 | 20:56
Λάρισα: «Λερναία Ύδρα» οι τηλεφωνικές απάτες – Έκλεψαν από 45.000 ευρώ από 10χρονο παιδί και 91χρονη γυναίκα - ΛΑΡΙΣΑ | 22.11.2026 | 20:50
Έργα 1,5 εκατ. ευρώ στη Λάρισα με νέους αγωγούς και άσφαλτο - ΛΑΡΙΣΑ | 22.11.2026 | 20:47
Πενήντα φωνές από τη Λάρισα κέρδισαν το χειροκρότημα στην Πάτρα (ΦΩΤΟ) - ΛΑΡΙΣΑ | 22.11.2026 | 20:41
Αγιόκαμπος: Συνεχή μπλακ άουτ – «Ωρολογιακή βόμβα» για τις ηλεκτρικές συσκευές, ζητούν εξηγήσεις από τον ΔΕΔΔΗΕ - ΒΟΛΟΣ | 22.11.2026 | 20:36
Το άγνωστο μαρτυρικό χωριό του Πηλίου με την παλαιότερη πλατεία -Γραφικά σοκάκια, αρχοντικά και αυθεντικές γεύσεις - ΕΛΛΑΔΑ | 22.11.2026 | 20:10
Τραγωδία στην Αργολίδα: Θανατηφόρο τροχαίο με εκτροπή μηχανής – Νεκρός ο 46χρονος αναβάτης - ΛΑΡΙΣΑ | 22.11.2026 | 19:49
Τέμπη: Ερωτήματα για την πορεία των εκταφών – Τι καθυστερεί τη διαδικασία και τι καταγγέλλουν οι συγγενείς - ΕΛΛΑΔΑ | 22.11.2026 | 19:44
Καιρός: Καμπανάκι Θοδωρή Κολυδά για 2 διαδοχικές πτώσεις θερμοκρασίας
- ΛΑΡΙΣΑ | 21.11.2026 | 10:57
Ανδρουλάκης από το JOIST: «Η νεανική επιχειρηματικότητα και η καινοτομία δίνουν χαραμάδα ελπίδας» (ΦΩΤΟ+video) - ΛΑΡΙΣΑ | 22.11.2026 | 10:56
Τέσσερις Λαρισαίοι «έφυγαν» από τη ζωή - ΠΟΛΙΤΙΚΗ | 21.11.2026 | 23:40
Επιστρέφει εκτάκτως στην Αθήνα ο Αντώνης Σαμαράς: Ο λόγος που διέκοψε την προγραμματισμένη περιοδεία του - ΑΓΡΟΤΙΚΑ | 21.11.2026 | 11:53
Περί τα 450 εκατ. ευρώ η προκαταβολή τσεκ στις 30 Νοεμβρίου, στη σειρά μπαίνουν οι Νέοι και η αναδιανεμητική - ΛΑΡΙΣΑ | 22.11.2026 | 10:54
Θλίψη στη Λάρισα: Έφυγε από τη ζωή σε ηλικία 44 ετών ο Στυλιανός Βουλγαράκης - ΘΕΣΣΑΛΙΑ | 22.11.2026 | 11:17
Τέλος εποχής για τα σιτηρά στη Θεσσαλία; Αφήνουν χωράφια άσπαρτα και περιορίζουν τα λιπάσματα οι αγρότες - ΘΕΣΣΑΛΙΑ | 21.11.2026 | 09:24
Θεσσαλία: Ο χειμώνας της οργής για τους αγρότες – Σπέρνουν χωρίς λιπάσματα και ετοιμάζουν τα μπλόκα - ΛΑΡΙΣΑ | 21.11.2026 | 20:01
Δαμάσι: Έκτη χρονιά στα κοντέινερ για τους σεισμόπληκτους – Ο Ανδρουλάκης καταγγέλλει την κυβερνητική αδράνεια(ΦΩΤΟ)








































Facebook
Twitter
Youtube
RSS Feed