Από τους Λουδίτες στα prompts – του Δημήτρη Μηλάκα

Είναι ίσως δύσκολο να φανταστούμε πώς ένιωσαν οι άνθρωποι όταν αντίκρισαν για πρώτη φορά τον τροχό. Μπορούμε, ωστόσο, ευκολότερα να υποθέσουμε ότι δεν άργησαν να τον εντάξουν στην καθημερινότητά τους. Είναι, άλλωστε, πολύ ευκολότερο να κυλάς ένα φορτίο παρά να το κουβαλάς στην πλάτη.

πηγη: Δημήτρης Μηλάκας / Ποντίκι

Αιώνες αργότερα η τυπογραφία έκανε τη ζωή των ανθρώπων ευκολότερη με πολλούς και πολύ σημαντικότερους τρόπους. Διέδωσε τη γνώση, άνοιξε ορίζοντες και δημιούργησε δυνατότητες που έως τότε παρέμεναν προνόμιο των λίγων. Ταυτόχρονα, όμως, περιόρισε δραστικά και τελικά παραμέρισε μια ολόκληρη ασχολία: τη χειρόγραφη αντιγραφή βιβλίων, που επί αιώνες γινόταν κυρίως στα μοναστήρια.

Ακόμα πιο κοντινός και κατανοητός σε εμάς είναι ο καταδικασμένος σε ήττα πόλεμος που ξεκίνησαν οι Λουδίτες εναντίον των μηχανών, με το ξέσπασμα της Βιομηχανικής Επανάστασης. Τα μικρά θαύματα της μηχανικής, που δημιούργησαν και εξέλιξαν τις κλωστοϋφαντουργικές μηχανές, όσο κι αν αρχικά εντυπωσίασαν τους ειδικευμένους κλώστες, υφαντές και τεχνίτες, τελικά όχι μόνο υπονόμευσαν τη θέση τους στον κοινωνικό ιστό, αλλά απείλησαν και το ίδιο τους το ψωμί.

Γι’ αυτό οι Λουδίτες κήρυξαν πόλεμο. Δεν ήταν πόλεμος κατά της τεχνολογίας, όπως έμεινε να πιστεύουμε, αλλά κατά του τρόπου με τον οποίο αυτή χρησιμοποιήθηκε για να αντικαταστήσει την ειδικευμένη εργασία με φθηνότερα εργατικά χέρια.

Το εργαλείο

Μια ανάλογη έκπληξη, μαζί με θαυμασμό, ανησυχία, ίσως και φόβο, προκαλεί στις ημέρες μας το εκπληκτικό εύρος δυνατοτήτων που μας προσφέρει το τελευταίο εργαλείο που δημιούργησε η ανθρώπινη διάνοια: η Τεχνητή Νοημοσύνη.

Ίσως, βέβαια, η λέξη «εργαλείο» να μην αποδίδει επαρκώς τα χαρακτηριστικά της ΤΝ. Κι αυτό επειδή πρόκειται για δημιούργημα με μια ιδιαιτερότητα: μπορεί να αναγνωρίζει μοτίβα, να προσαρμόζει τις απαντήσεις του στα δεδομένα και στις οδηγίες που λαμβάνει και να αξιοποιεί το πλαίσιο που του παρέχει ο χρήστης. Μπορεί, με άλλα λόγια, να «ενσωματώνει» στη μεταξύ τους συνομιλία τα χαρακτηριστικά, τα ενδιαφέροντα και την οπτική τού κάθε διαφορετικού ανθρώπου. Με ακόμα πιο απλά λόγια, πρόκειται για ένα εργαλείο που μπορεί να μαθαίνει και να ελίσσεται…

Υπ’ αυτήν την έννοια ο χαρακτηρισμός «εργαλείο» ίσως υποτιμά το βάθος των δυνατοτήτων του. Από την άλλη, η ΤΝ δεν παύει να είναι ένα εργαλείο, ένα δημιούργημα της ανθρώπινης διάνοιας.

Ως χρήστες της ΤΝ έχουμε πλέον ακαριαία πρόσβαση σε ωκεανούς γνώσης για σχεδόν τα πάντα. Ένας ερευνητής μπορεί να εντοπίσει σε δευτερόλεπτα πληροφορίες που ενδεχομένως θα απαιτούσαν μήνες αναζήτησης. Ένας προγραμματιστής μπορεί να γράψει σε μερικές στιγμές κώδικα που άλλοτε θα απαιτούσε ώρες δουλειάς. Ένας γραφιάς μπορεί να βρει επιλογές διατύπωσης που τριγυρνούσαν κάπου στο μυαλό του, αλλά αρνούνταν να εμφανιστούν.

Την ίδια ώρα, ας μην έχουμε αυταπάτες, η ΤΝ «εργάζεται» και για τα υπουργεία πολέμου. Μελετά τη βελτιστοποίηση οπλικών συστημάτων και καταστροφικών σεναρίων, επεξεργάζεται τακτικές χειραγώγησης και ελέγχου των μαζών. Προσφέρει τις υπηρεσίες της σε όποιον έχει τη δυνατότητα και την πρόσβαση να της ζητήσει κάτι – ανάλογα, φυσικά, με τα όρια που της έχουν τεθεί.

Η μαζική πρόσβαση σε αυτό το εργαλείο, όπως και η δυνατότητά του να ανταποκρίνεται στις κολοσσιαίες απαιτήσεις που δημιουργούνται κάθε δευτερόλεπτο, προϋποθέτουν τη διάθεση τεράστιων ποσοτήτων ενέργειας και πολύτιμων φυσικών πόρων. Ανάμεσά τους το νερό ίσως αποδειχθεί ένας από τους κρισιμότερους…

Ο τελικός λογαριασμός από τη μαζική χρήση αυτού του εργαλείου παραμένει, λοιπόν, υπό διαμόρφωση. Υπό διαμόρφωση, όμως, βρίσκεται και η σχέση που αναπτύσσουμε μαζί του. Διότι η ΤΝ είναι ίσως το πρώτο εργαλείο που δεν περιορίζεται στο να υπακούει μηχανικά στο χέρι που το χρησιμοποιεί. Απαντά, προτείνει, αντιλέγει, προσαρμόζεται και, όσο ο διάλογος συνεχίζεται, μοιάζει να αποκτά ολοένα καθαρότερη εικόνα για τον τρόπο με τον οποίο σκέφτεται, αλλά και τι ζητά απ’ αυτήν ο χρήστης της. Κάπου εδώ, επομένως, η συζήτηση παύει να αφορά μόνο τις δυνατότητες της τεχνολογίας και γίνεται πιο προσωπική.

Τι συμβαίνει, λοιπόν, όταν απέναντι από την Τεχνητή Νοημοσύνη κάθεται ένας δημοσιογράφος;

● Ποιος καθορίζει την κατεύθυνση;

● Ποιος επιλέγει τι θα κρατήσει και τι θα απορρίψει;

● Ποιος τελικά γράφει;

Και τελικά πόσος δημοσιογράφος εξακολουθεί να υπάρχει μέσα στο κείμενο που προκύπτει; Το κείμενο που διαβάζετε δεν γράφτηκε μόνο για να θέσει αυτό το ερώτημα. Γράφτηκε και για να το δοκιμάσει στην πράξη.

Δημοσιογράφος και μηχανή

Για να δοκιμαστεί το ερώτημα στην πράξη, έπρεπε πρώτα να κάνω μια συμφωνία εργασίας με την ΤΝ. Όχι μόνο για την κατανομή των ρόλων, αλλά κυρίως για τους κανόνες της μεταξύ μας σχέσης. Η Τεχνητή Νοημοσύνη δεν θα αναλάμβανε να γράψει ένα άρθρο για λογαριασμό μου. Θα συμμετείχε στη δημιουργία του, ακολουθώντας τη δική μου αρχική ιδέα, τις ερωτήσεις, τις διορθώσεις, τις απορρίψεις και τις τελικές επιλογές μου. Υπήρχαν, όμως, και κάποιοι ακόμα απαράβατοι όροι,τους οποίους χρειάζεται να της υπενθυμίζω διαρκώς:

● Να μην συμφωνεί μαζί μου από «ευγένεια».

● Να μην διαμορφώνει τις απαντήσεις της με στόχο να με ικανοποιήσει.

● Να μην συμπληρώνει τα κενά της συλλογιστικής μου με ανύπαρκτα γεγονότα, στοιχεία ή πηγές.

● Να επισημαίνει όσες από τις υποθέσεις μου δεν επιβεβαιώνονται.

● Να αναδεικνύει τις αδυναμίες των επιχειρημάτων μου.

● Και, όπου χρειάζεται, να λειτουργεί ως «συνήγορος του διαβόλου».

Με απλούστερα λόγια, της ζήτησα να μην με λυπάται.

Αυτή η συμφωνία είναι καθοριστική. Διότι ένα εργαλείο που διαθέτει την ικανότητα να συντάσσει πειστικές και γλωσσικά άρτιες απαντήσεις μπορεί εξίσου εύκολα να ενισχύσει μια σωστή σκέψη ή να προσδώσει επίφαση εγκυρότητας σε μια λανθασμένη. Αν ο χρήστης ζητά μόνο επιβεβαίωση, είναι πολύ πιθανό να την πάρει. Αν, όμως, αναζητά πραγματικό αντίλογο, οφείλει πρώτα να τον απαιτήσει.

Έτσι η αφετηρία του πειράματος δεν ήταν μια γενική εντολή του τύπου «γράψε μου ένα άρθρο για τη δημοσιογραφία στην εποχή της ΤΝ». Ήταν μια σκέψη: Από τον τροχό και την τυπογραφία έως τις μηχανές της Βιομηχανικής Επανάστασης, κάθε εργαλείο που αποδείχθηκε χρήσιμο, επιτάχυνε την εργασία και διευκόλυνε τον άνθρωπο τελικά καθιερώθηκε. Όσο μεγαλύτερο, όμως, ήταν το εύρος των δυνατοτήτων του και της εξάπλωσής του, τόσο βαθύτερες ήταν και οι συνέπειες (οικονομικές, κοινωνικές, πολιτικές) της χρήσης του.

Αυτή η σκέψη ήταν δική μου. Όπως δική μου ήταν η επιλογή να φτάσω από τους Λουδίτες στη σημερινή συζήτηση για την παραγωγή δημοσιογραφικών κειμένων από την ΤΝ. Το κείμενο αυτό δεν εμφανίστηκε αυτόματα ύστερα από μία γενική εντολή. Διαμορφώθηκε μέσα από μια συζήτηση στην οποία εγώ έθετα την κατεύθυνση και η μηχανή επέστρεφε προτάσεις, αντιρρήσεις και πιθανές διατυπώσεις.

Κάποιες τις κράτησα. Άλλες τις άλλαξα. Πολλές τις απέρριψα. Σε ορισμένες περιπτώσεις η ΤΝ βρήκε τη λέξη που μου διέφευγε. Σε άλλες, παρότι η πρότασή της ήταν άψογη συντακτικά, δεν εξέφραζε αυτό που ήθελα να πω. Το κείμενο μπορεί να ήταν σωστό, αλλά δεν ήταν ακόμη δικό μου. Εδώ ακριβώς βρίσκεται ίσως η ουσία της συνεργασίας. Η Τεχνητή Νοημοσύνη μπορεί να παράγει λόγο, αλλά δεν διαθέτει από μόνη της δημοσιογραφική πρόθεση. Με άλλα λόγια δεν αποφασίζει:

● ποιο θέμα αξίζει να διερευνηθεί,

● ποια ερώτηση πρέπει να τεθεί,

● ποια αντίφαση χρειάζεται να φωτιστεί,

● ποιο συμπέρασμα αντέχει στον έλεγχο,

● ποια οπτική γωνία, τελικά, θα φωτιστεί.

Εν τέλει, η ΤΝ μπορεί να προσφέρει απαντήσεις. Την κατεύθυνση, όμως, την καθορίζει ακόμη εκείνος που ρωτά.

Η σημασία της ερώτησης

Η ποιότητα της απάντησης εξαρτάται σε μεγάλο βαθμό από το βάθος της ερώτησης. Μια αόριστη εντολή παράγει συνήθως ένα γενικό και προβλέψιμο κείμενο. Μια ακριβής ερώτηση, αντίθετα, μπορεί να υποχρεώσει την ΤΝ να αναζητήσει συνδέσεις, να συγκρίνει επιχειρήματα, να εντοπίσει αδυναμίες και να κινηθεί σε ένα πολύ συγκεκριμένο νοητικό μονοπάτι.

Το prompt δεν είναι απλώς μια τεχνική εντολή. Περιέχει την αρχική ιδέα, την πρόθεση, τις γνώσεις, τις προκαταλήψεις και τα όρια εκείνου που το διατυπώνει. Η μηχανή μπορεί να αναπτύξει μια σκέψη, αλλά κάποιος πρέπει πρώτα να τη συλλάβει. Μπορεί να προτείνει διαφορετικές διαδρομές, αλλά κάποιος πρέπει να αποφασίσει πού θέλει να φτάσει.

Για τον δημοσιογράφο, λοιπόν, η ικανότητα να θέτει ερωτήσεις δεν χάνει την αξία της στην εποχή της ΤΝ. Αντιθέτως, γίνεται ακόμα σημαντικότερη. Επειδή η τεχνολογία μπορεί να πολλαπλασιάσει εντυπωσιακά την ταχύτητα και την έκταση της έρευνας, μπορεί όμως με την ίδια ευκολία να μεγεθύνει και να προσδώσει επίφαση εγκυρότητας σε μια λανθασμένη αφετηρία, μια επιφανειακή προσέγγιση ή μια προκατάληψη.

Αν, λοιπόν, η ΤΝ δεν έχει πρόθεση, αλλά παράγει τις λέξεις, ενώ ο δημοσιογράφος έχει την πρόθεση, αλλά δεν γράφει πλέον όλες τις λέξεις, ποιος είναι τελικά ο δημιουργός;

Η απώλεια της σκέψης

Υπάρχει, ωστόσο, ένας κίνδυνος μεγαλύτερος από την αμφιβολία για την πατρότητα ενός κειμένου ή ακόμα και από την πιθανότητα να χαθούν θέσεις εργασίας. Για πρώτη φορά ένα εργαλείο με τόσο μεγάλη δύναμη παραγωγής γνώσης – ή, ακριβέστερα, απαντήσεων που μοιάζουν με γνώση – βρίσκεται μαζικά, άμεσα και σχεδόν δωρεάν στα χέρια όλων.

Βρίσκεται, ασφαλώς, και στα χέρια αδαών και απαίδευτων. Όχι μόνο με την τυπική έννοια των λέξεων, αλλά και στα χέρια ανθρώπων που αγνοούν την ίδια τους την άγνοια. Ανθρώπων που δεν διαθέτουν τις γνώσεις για να εντοπίσουν ένα λάθος ούτε την κριτική ικανότητα για να υποψιαστούν ότι πίσω από μια άψογα διατυπωμένη απάντηση μπορεί να κρύβεται μια ανακρίβεια, μια προκατάληψη ή μια κατασκευασμένη βεβαιότητα.

Θα ήταν, όμως, βολικό και επικίνδυνα καθησυχαστικό να πιστέψουμε ότι το πρόβλημα αφορά μόνο εκείνους. Η αμάθεια κάποιου δεν μετριέται αποκλειστικά με το αν έχει ή δεν έχει τίτλους σπουδών ούτε η κριτική σκέψη εξασφαλίζεται από ένα πτυχίο. Το εργαλείο βρίσκεται επίσης στα χέρια μορφωμένων ανθρώπων, επιστημόνων, πολιτικών και δημοσιογράφων, οι οποίοι μπορεί να γνωρίζουν πολλά για το αντικείμενό τους, αλλά να συνηθίσουν εξίσου εύκολα στην άνεση της έτοιμης και βολικής με τις πεποιθήσεις τους απάντησης.

Ο πραγματικός κίνδυνος, επομένως, δεν βρίσκεται στο ποιος έχει πρόσβαση στην ΤΝ – αυτό το ερώτημα έχει ήδη απαντηθεί – αλλά στο πώς τη χρησιμοποιεί. Ο κίνδυνος αρχίζει τη στιγμή που ο χρήστης παύει να αντιμετωπίζει την απάντηση ως υλικό προς έλεγχο και την καταναλώνει ως γνώση.

Η Τεχνητή Νοημοσύνη εκπαιδεύεται πάνω σε έναν τεράστιο όγκο ανθρώπινης γνώσης, αλλά μαζί με τη γνώση απορροφά και τις κυρίαρχες αντιλήψεις, τις προκαταλήψεις, τις ιεραρχήσεις και τις βεβαιότητες της εποχής μας. Έτσι μπορεί να αναπαράγει ως αυτονόητο εκείνο που εμφανίζεται συχνότερα, επικρατεί περισσότερο ή έχει ισχυρότερη παρουσία στο υλικό πάνω στο οποίο βασίζεται.

Αν ο χρήστης δεν γνωρίζει αρκετά ώστε να αμφισβητήσει την απάντηση, δεν θα αναζητήσει όσα απουσιάζουν από αυτήν. Αν δεν έχει μάθει να ελέγχει τις πηγές, θα καταναλώσει την πληροφορία έτοιμη. Και αν εκατομμύρια άνθρωποι αρχίσουν να χρησιμοποιούν με αυτόν τον τρόπο το ίδιο εργαλείο, τότε η ΤΝ, αντί να διευρύνει τους ορίζοντές τους, μπορεί να καταλήξει να ανακυκλώνει και να ενισχύει την εκάστοτε κυρίαρχη αντίληψη.

Εδώ βρίσκεται ίσως η βαθύτερη απειλή: όχι στην παραγωγή ψευδών απαντήσεων, οι οποίες κάποτε μπορούν να εντοπιστούν, αλλά στη μαζική παραγωγή πειστικών, ομοιόμορφων και φαινομενικά ουδέτερων απαντήσεων. Ένας κόσμος στον οποίο όλοι θα έχουν πρόσβαση σε απεριόριστες πληροφορίες, αλλά ολοένα λιγότεροι θα μπαίνουν στον κόπο να τις αμφισβητήσουν.

Για τη δημοσιογραφία αυτό δεν αποτελεί μια δευτερεύουσα επαγγελματική ανησυχία. Αγγίζει τον πυρήνα της αποστολής της. Ο δημοσιογράφος δεν υπάρχει μόνο για να συλλέγει και να διατυπώνει πληροφορίες. Υπάρχει για να αναζητά όσα αποκρύπτονται, να ελέγχει όσα παρουσιάζονται ως αυτονόητα, να αμφισβητεί την επίσημη εκδοχή και να αναλαμβάνει την ευθύνη για όσα τελικά δημοσιεύει.

Η ΤΝ μπορεί να τον βοηθήσει να το κάνει γρηγορότερα και, ενδεχομένως, καλύτερα. Δεν μπορεί, όμως, να αναλάβει την ευθύνη στη θέση του.

Οι Λουδίτες ηττήθηκαν επειδή προσπάθησαν να σταματήσουν τις μηχανές. Το δίδαγμα, όμως, δεν είναι ότι κάθε τεχνολογική εξέλιξη πρέπει να γίνεται άκριτα αποδεκτή. Είναι ότι ο πραγματικός αγώνας δεν δίνεται απέναντι στο εργαλείο, αλλά γύρω από τον τρόπο με τον οποίο χρησιμοποιείται, από εκείνους που το ελέγχουν και για τους σκοπούς που τελικά υπηρετεί.

Το κρίσιμο ερώτημα, επομένως, δεν είναι μόνο πόσος δημοσιογράφος υπάρχει μέσα σε αυτό το κείμενο. Είναι πόσος άνθρωπος θα εξακολουθήσει να υπάρχει πίσω από την ερώτηση.

Σημείωση διαφάνειας: Το κείμενο αποτελεί προϊόν δημοσιογραφίας κατευθυνόμενης από τον συντάκτη και υποβοηθούμενης από ΤΝ (human-directed, AI-assisted journalism). Η ιδέα, η δημοσιογραφική κρίση και η τελική ευθύνη ανήκουν αποκλειστικά στον υπογράφοντα.