Ένας ερευνητής τεχνητής νοημοσύνης που εργάστηκε στην Anthropic – και στο παρελθόν στην OpenAI – παραιτήθηκε, υποστηρίζοντας ότι και οι δύο τεχνολογικοί κολοσσοί «τζογάρουν τις ζωές μας».
Ο Τζέικομπ Κόξον ανακοίνωσε την αποχώρησή του με ανάρτησή του στο X, προειδοποιώντας ότι ο κόσμος δεν θα πρέπει να «υποτιμά τη δύναμη αυτής της τεχνολογίας». Όπως πρόσθεσε: «Σύντομα θα έχουμε συστήματα υπεράνθρωπης νοημοσύνης, τα οποία θα μπορούν να χακάρουν τα πάντα, να φέρνουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μία νύχτα και να αποκτούν πραγματική ισχύ και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε καθέναν από αυτούς τους τομείς και η πρόοδος δεν επιβραδύνεται».
Σύμφωνα με το Politico, η εξέλιξη αυτή θεωρείται από εταιρείες τεχνητής νοημοσύνης, όπως η DeepMind της Google, ως ένας από τους πιθανούς παράγοντες που θα μπορούσαν να οδηγήσουν σε ένα σενάριο όπου η τεχνητή νοημοσύνη θα ξεπεράσει κατά πολύ την ανθρώπινη νοημοσύνη – γνωστό ως τεχνητή υπερνοημοσύνη – αντί απλώς να φτάσει σε επίπεδο αντίστοιχο με εκείνο των ανθρώπων, το οποίο είναι γνωστό ως τεχνητή γενική νοημοσύνη.
«Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», δήλωσε ο Κόξον σε επόμενη ανάρτησή του.
Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τελικό στάδιο) για να περιγράψουν αυτή την πορεία.
Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες. «Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν εκεί πρώτοι», επεσήμανε.
Ο Έβαν Χούμπινγκερ, επικεφαλής προσωπικού της Anthropic για τη διασφάλιση ότι η τεχνολογία παραμένει ευθυγραμμισμένη με τους ανθρώπινους στόχους και αξίες, επιβεβαίωσε τους ισχυρισμούς του Κόξον σε δική του ανάρτηση, αν και δεν παραιτήθηκε από την εταιρεία. «Ο Τζέικομπ έχει δίκιο – πραγματικά πιστεύουμε ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», έγραψε.
