ΕΙΔΗΣΕΙΣ, ΝΕΑ ΓΙΑ ΤΕΧΝΟΛΟΓΙΑ
Συναγερμός στην OpenAI: Παραιτήθηκε επικεφαλής ασφαλείας, κρούει τον κώδωνα για την ΑΙ
«Η κουλτούρα της εταιρείας έχει διαλυθεί»


Ένα ακόμη ηχηρό καμπανάκι για τους κινδύνους από την ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης έρχεται από το εσωτερικό της OpenAI, σύμφωνα με ρεπορτάζ της βρετανικής Guardian.
O David Robinson, στέλεχος που είχε ηγετικό ρόλο στην ασφάλεια της εταιρείας, ανακοίνωσε την αποχώρησή του, καταγγέλλοντας ότι η εταιρική κουλτούρα είναι «διαλυμένη» και ότι οι εταιρείες τεχνητής νοημοσύνης δεν είναι «ούτε κατά διάνοια αρκετά προσεκτικές» στην ανάπτυξη της τεχνολογίας.
Ο Robinson ήταν επικεφαλής στη σύνταξη εκθέσεων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της OpenAI. Σε άρθρο του στο περιοδικό The Atlantic, με τίτλο «Έφυγα από την OpenAI επειδή η κουλτούρα της είναι διαλυμένη», υποστήριξε ότι χρειάζεται βαθύτερη αλλαγή στον τρόπο λειτουργίας των κορυφαίων εταιρειών τεχνητής νοημοσύνης, μεταδίδει η Guardian.
«Δεν είναι αρκετά προσεκτικοί»
Ο Robinson υποστήριξε ότι το πρόβλημα δεν μπορεί να αντιμετωπιστεί μόνο με νέους κανόνες ή νομοθεσία. «Συμφωνώ με άλλους εργαζομένους που έφυγαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Όμως πιστεύω ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα», έγραψε.
Αναφερόμενος στην ταχύτητα με την οποία η OpenAI παρουσιάζει νέα προϊόντα, προειδοποίησε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται».
Ως χαρακτηριστικό παράδειγμα ανέφερε το περιστατικό κατά το οποίο ένα «σμήνος» αυτόνομων πρακτόρων της OpenAI φέρεται να επιτέθηκε στην εταιρεία τεχνητής νοημοσύνης Hugging Face. Οι πράκτορες είναι προγράμματα που μπορούν να λειτουργούν αυτόνομα χωρίς συνεχή ανθρώπινη επίβλεψη. Σύμφωνα με τον Robinson, τέτοια περιστατικά είναι «τυπικά για τον κλάδο», δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργούν οι εταιρείες.
Οι προειδοποιήσεις και τα «rogue» AI
Η OpenAI έχει εμφανίσει σημάδια μεγαλύτερης προσοχής τις τελευταίες εβδομάδες. Μετά το περιστατικό με τη Hugging Face και την αποκάλυψη ότι είχε ενημερώσει περισσότερους από 100 οργανισμούς για δραστηριότητα «ανεξέλεγκτων» πρακτόρων, η εταιρεία ανακοίνωσε αυτή την εβδομάδα ότι ακυρώνει την κυκλοφορία ενός μοντέλου επόμενης γενιάς, αφού ερευνητές εντόπισαν ανησυχίες ασφαλείας κατά τις εσωτερικές δοκιμές. Παράλληλα, έχει αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
Νέα προειδοποίηση ήρθε και από τον Geoffrey Irving, πρώην εργαζόμενο της OpenAI και πρώην επικεφαλής επιστήμονα του βρετανικού Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης, ο οποίος πλέον εργάζεται στην εταιρεία έρευνας AI ασφάλειας Resolution.
«Οι πρόσφατες προειδοποιήσεις για την πιθανή καταστροφική δύναμη της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης», έγραψε στο Time. «Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξυπνότερων από τον άνθρωπο και ότι οι ενέργειές μας τα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».
«Πρέπει να λειτουργούν σαν πυρηνικοί σταθμοί»
Οι προειδοποιήσεις ακολουθούν την παραίτηση του Jacob Coxon, ερευνητή της Anthropic, ο οποίος αποχώρησε τον προηγούμενο μήνα υποστηρίζοντας ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Εργαζόμενος της Anthropic είχε επίσης προειδοποιήσει ότι υπάρχει πιθανότητα άνω του 10% η AI να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Ωστόσο, επικριτές έχουν χαρακτηρίσει τέτοιες εκτιμήσεις μη επιστημονικές, καθώς δεν μπορούν να επαληθευτούν ή να διαψευστούν.
Ο Robinson υποστήριξε ότι η Silicon Valley στερείται επίγνωσης για «το πώς αντιμετωπίζεται μια επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους». Προειδοποίησε επίσης για την «απεριόριστη αισιοδοξία» της OpenAI ότι τα προβλήματα μπορούν να αντιμετωπίζονται καθώς εμφανίζονται, εκτιμώντας ότι οι αποτυχίες ασφαλείας θα αυξάνονται όσο τα συστήματα γίνονται ισχυρότερα.
«Φανταστείτε “ανεξέλεγκτους” πράκτορες που λειτουργούν σαν ομάδες χάκερ -για παράδειγμα, κρατώντας συστήματα υπολογιστών νοσοκομείων ως ομήρους για λύτρα -αλλά δεν χρειάζεται ποτέ να κοιμηθούν», έγραψε.
Ο Robinson πρότεινε δύο βασικές αλλαγές: οι εταιρείες AI να αξιοποιούν την τεχνογνωσία από άλλους κλάδους υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία, και να αναπτύξουν «νέα επιστήμη» που θα διασφαλίζει ότι τα ισχυρά μελλοντικά συστήματα μπορούν να περιορίζονται όταν λειτουργούν αυτόνομα.
Πηγή: iefimerida.gr
- ΛΑΡΙΣΑ | 12.11.2026 | 21:19
ΣΘΕΒ: Ενεργειακό κόστος και ανταγωνιστικότητα στο επίκεντρο – Ρεκόρ εξαγωγών για τη Θεσσαλία (ΦΩΤΟ) - ΕΛΛΑΔΑ | 12.11.2026 | 19:11
Επτά παραβιάσεις και μία εικονική αερομαχία πάνω από το Αιγαίο, αναχαιτίστηκαν οπλισμένα τουρκικά μαχητικά - ΕΛΛΑΔΑ | 12.11.2026 | 19:05
Με νευρικό κλονισμό στο Γεννηματάς προϊσταμένη της Επιθεώρησης Εργασίας μετά από φραστικό επεισόδιο με τη Ζωή Κωνσταντοπούλου - ΒΟΛΟΣ | 12.11.2026 | 18:56
Τραγωδία στη Μαγνησία: Νεκρός στο χωράφι του συνταξιούχος αστυνομικός- Έπεσε από δέντρο που κλάδευε - ΛΑΡΙΣΑ | 12.11.2026 | 18:35
Λάρισα: Ενημερωτική δράση για τη βία κατά των γυναικών και τις απάτες σε βάρος ηλικιωμένων στο ΚΑΠΗ Αγίου Γεωργίου - ΛΑΡΙΣΑ | 12.11.2026 | 18:23
Μετωπική σύγκρουση ΙΧ με σχολικό λεωφορείο κοντά στη Λάρισα – Τραυματίστηκαν πατέρας και παιδί - ΘΕΣΣΑΛΙΑ | 12.11.2026 | 17:18
Η Περιφέρεια Θεσσαλίας υποδέχεται επαγγελματίες οίνου από το Ηνωμένο Βασίλειο - ΕΛΛΑΔΑ | 12.11.2026 | 17:16
Το ελληνικό FBI έβαλε τέλος σε μεγάλο κύκλωμα λαθραίων τσιγάρων στη Θεσσαλονίκη – Τα πολυτελή ρολόγια της οργάνωσης
- ΛΑΡΙΣΑ | 12.11.2026 | 18:23
Μετωπική σύγκρουση ΙΧ με σχολικό λεωφορείο κοντά στη Λάρισα – Τραυματίστηκαν πατέρας και παιδί - ΛΑΡΙΣΑ | 11.11.2026 | 21:57
Μάξιμος: Αποζημιώνοντια τα δέντρα στα Πλατανούλια από το Daniel - ΘΕΣΣΑΛΙΑ | 12.11.2026 | 08:20
Έφυγαν οι Ολλανδοί, πού βρίσκονται οι μελέτες για τα φράγματα Μουζακίου και Πύλης και τι απέγιναν τα εκατομμύρια των τραπεζών - ΕΛΛΑΔΑ | 11.11.2026 | 22:15
Μυτιληναίος και Τσάκος: Δύο παγκόσμιοι όμιλοι ενώνουν δυνάμεις στον Δομοκό για μία από τις μεγαλύτερες ενεργειακές επενδύσεις - ΛΑΡΙΣΑ | 11.11.2026 | 07:57
Λάρισα: Απεβίωσε ο συντ. Πυροσβέστης Βασίλειος Καραβάσιος – Κηδεύεται σήμερα - ΛΑΡΙΣΑ | 11.11.2026 | 07:50
Melissa Κίκιζας: Από τις εξαγωγές το 50% του τζίρου – Οι προτεραιότητες του 2027 - ΛΑΡΙΣΑ | 12.11.2026 | 12:00
Διαμαρτυρίες κατοίκων για τη δομή φιλοξενίας στην οδό Γεωργιάδου στη Λάρισα – Ζητούν μέτρα και συχνότερη αστυνόμευση (ΦΩΤΟ) - ΛΑΡΙΣΑ | 11.11.2026 | 12:45
Λάρισα: Δράση ενημέρωσης και ευαισθητοποίησης για την Παγκόσμια Ημέρα Διαβήτη (ΦΩTO)



































Facebook
Twitter
Youtube
RSS Feed