ChatGPT: Ανησυχητικά ευρήματα από το MIT – Επηρεάζει αρνητικά την ικανότητά μας να σκεφτόμαστε κριτικά
Το ChatGPT βλάπτει τις ικανότητες κριτικής σκέψης; Μια νέα μελέτη από ερευνητές του Media Lab του MIT έφερε στο φως κάποια ανησυχητικά αποτελέσματα.
Η μελέτη χώρισε 54 άτομα ηλικίας 18 έως 39 ετών από την περιοχή της Βοστώνης σε τρεις ομάδες και τους ζήτησε να γράψουν διάφορα δοκίμια επιπέδου SAT (σ.σ. το τεστ δεξιοτήτων που χρησιμοποιείται για την είσοδο στα αμερικανικά ΑΕΙ) χρησιμοποιώντας το ChatGPT της OpenAI, τη μηχανή αναζήτησης της Google και τίποτα απολύτως, αντίστοιχα.
Οι ερευνητές χρησιμοποίησαν ηλεκτροεγκεφαλογράφημα για να καταγράψουν την εγκεφαλική δραστηριότητα των ατόμων σε 32 περιοχές και διαπίστωσαν ότι, από τις τρεις ομάδες, οι χρήστες του ChatGPT είχαν τη χαμηλότερη εγκεφαλική δραστηριότητα και «συνεχώς υπολειπόταν σε νευρωνικό, γλωσσικό και συμπεριφορικό επίπεδο». Κατά τη διάρκεια αρκετών μηνών, οι χρήστες του ChatGPT έγιναν πιο τεμπέληδες με κάθε επόμενη δοκιμασία, καταφεύγοντας συχνά σε αντιγραφή και επικόλληση μέχρι το τέλος της μελέτης.
Η μελέτη υποδηλώνει ότι η χρήση των Μεγάλων Γλωσσινών Μοντέλων (LLM) μπορεί στην πραγματικότητα να βλάψει τη μάθηση, ειδικά για τους νεότερους χρήστες. Η μελέτη δεν έχει ακόμη αξιολογηθεί από ομότιμους και το μέγεθος του δείγματος είναι σχετικά μικρό. Ωστόσο, η κύρια συγγραφέας της μελέτης, Νατάλια Κοσμίνα, θεώρησε σημαντικό να δημοσιεύσει τα ευρήματα για να τονίσει την ανησυχία ότι, καθώς η κοινωνία βασίζεται όλο και περισσότερο στα LLM για άμεση ευκολία, η μακροπρόθεσμη ανάπτυξη του εγκεφάλου μπορεί να θυσιαστεί στη διαδικασία.
«Αυτό που με ώθησε να το δημοσιεύσω τώρα, χωρίς να περιμένω την πλήρη αξιολόγηση από ομότιμους, είναι ότι φοβάμαι ότι σε 6-8 μήνες, κάποιος υπεύθυνος χάραξης πολιτικής θα αποφασίσει να εφαρμόσει το GPT στα νηπιαγωγεία. Πιστεύω ότι αυτό θα ήταν απολύτως κακό και επιζήμιο», λέει. «Οι αναπτυσσόμενοι εγκέφαλοι διατρέχουν τον μεγαλύτερο κίνδυνο».
Το Μedia Lab του ΜΙΤ έχει αφιερώσει πρόσφατα σημαντικούς πόρους στη μελέτη των διαφορετικών επιπτώσεων των εργαλείων παραγωγικής τεχνητής νοημοσύνης. Μελέτες που πραγματοποιήθηκαν νωρίτερα φέτος, για παράδειγμα, διαπίστωσαν ότι, γενικά, όσο περισσότερο χρόνο περνούν οι χρήστες μιλώντας με το ChatGPT, τόσο πιο μοναχικοί αισθάνονται.
Η Κοσμίνα, η οποία είναι πλήρους απασχόλησης ερευνητική επιστήμονας στο MIT Media Lab από το 2021, ήθελε να διερευνήσει συγκεκριμένα τις επιπτώσεις της χρήσης της τεχνητής νοημοσύνης για σχολικές εργασίες, επειδή όλο και περισσότεροι μαθητές χρησιμοποιούν την τεχνητή νοημοσύνη. Έτσι, η ίδια και οι συνάδελφοί της έδωσαν στους συμμετέχοντες την οδηγία να γράψουν 20λεπτα δοκίμια με βάση προτροπές του SAT, μεταξύ άλλων σχετικά με την ηθική της φιλανθρωπίας και τις παγίδες του να έχεις πάρα πολλές επιλογές.
Η ομάδα που έγραψε δοκίμια χρησιμοποιώντας το ChatGPT παρέδωσε δοκίμια εξαιρετικά παρόμοια μεταξύ τους, τα οποία στερούνταν πρωτότυπης σκέψης και βασίζονταν στις ίδιες εκφράσεις και ιδέες. Δύο καθηγητές αγγλικών που αξιολόγησαν τα δοκίμια τα χαρακτήρισαν ως «άψυχα». Τα ηλεκτροεγκεφαλογραφήματα αποκάλυψαν χαμηλό εκτελεστικό έλεγχο και προσοχή. Και στο τρίτο δοκίμιο, πολλοί από τους συγγραφείς απλώς έδωσαν την ερώτηση στο ChatGPT και το άφησαν να κάνει σχεδόν όλη τη δουλειά. «Ήταν περισσότερο σαν “δώσε μου το δοκίμιο, βελτίωσε αυτή τη φράση, επεξεργάσου το και τελείωσα”», λέει η Κοσμίνα.
Αντίθετα, η ομάδα που χρησιμοποίησε μόνο το μυαλό της έδειξε την υψηλότερη νευρωνική συνδεσιμότητα, ειδικά στις ζώνες άλφα, θήτα και δέλτα, οι οποίες σχετίζονται με τη δημιουργική σκέψη, το φορτίο μνήμης και τη σημασιολογική επεξεργασία. Οι ερευνητές διαπίστωσαν ότι αυτή η ομάδα ήταν πιο αφοσιωμένη και περίεργη, διεκδικούσε την ιδιοκτησία του έργου της και εξέφραζε μεγαλύτερη ικανοποίηση για τα δοκίμιά της.
Η τρίτη ομάδα, η οποία χρησιμοποίησε την αναζήτηση Google, εξέφρασε επίσης υψηλή ικανοποίηση και ενεργή εγκεφαλική λειτουργία. Η διαφορά εδώ είναι αξιοσημείωτη, επειδή πολλοί άνθρωποι τώρα αναζητούν πληροφορίες μέσα από chatbots τεχνητής νοημοσύνης αντί για την αναζήτηση στο διαδίκτυο.
Μετά τη συγγραφή των τριών εκθέσεων, ζητήθηκε από τους συμμετέχοντες να ξαναγράψουν μία από τις προηγούμενες προσπάθειές τους, αλλά η ομάδα ChatGPT έπρεπε να το κάνει χωρίς το εργαλείο, ενώ η ομάδα που χρησιμοποίησε μόνο τον εγκέφαλό της μπορούσε τώρα να χρησιμοποιήσει το ChatGPT. Η πρώτη ομάδα θυμόταν ελάχιστα από τα δικά της δοκίμια και παρουσίαζε ασθενέστερα εγκεφαλικά κύματα άλφα και θήτα, κάτι που πιθανώς αντανακλούσε την παράκαμψη των βαθιών διαδικασιών μνήμης. «Η εργασία εκτελέστηκε και θα μπορούσε να πει κανείς ότι ήταν αποτελεσματική και βολική», λέει ο Κοσμίνα. «Αλλά, όπως δείχνουμε, βασικά δεν ενσωμάτωσε τίποτα από αυτά στα δίκτυα μνήμης της».
Η δεύτερη ομάδα, αντίθετα, είχε καλή απόδοση, παρουσιάζοντας σημαντική αύξηση της εγκεφαλικής συνδεσιμότητας σε όλες τις ζώνες συχνοτήτων του εγκεφαλογραφήματος. Αυτό δημιουργεί την ελπίδα ότι η τεχνητή νοημοσύνη, αν χρησιμοποιηθεί σωστά, θα μπορούσε να ενισχύσει τη μάθηση αντί να την μειώσει.
Αυτή είναι η πρώτη εκδοχή της έρευνας που έχει δημοσιεύσει η Κοσμίνα. Η ομάδα της την υπέβαλε για αξιολόγηση από ομοτίμους, αλλά δεν ήθελε να περιμένει την έγκριση, η οποία μπορεί να διαρκέσει οκτώ ή περισσότερους μήνες, για να επιστήσει την προσοχή σε ένα ζήτημα που, σύμφωνα με την Κοσμίνα, επηρεάζει τα παιδιά σήμερα. «Η εκπαίδευση σχετικά με τον τρόπο χρήσης αυτών των εργαλείων και η προώθηση του γεγονότος ότι ο εγκέφαλος χρειάζεται να αναπτυχθεί με έναν πιο αναλογικό τρόπο είναι απολύτως κρίσιμης σημασίας», λέει η Κοσμίνα. «Πρέπει να έχουμε ενεργή νομοθεσία σε συγχρονισμό και, το πιο σημαντικό, να δοκιμάζουμε αυτά τα εργαλεία πριν τα εφαρμόσουμε».
Ο ψυχίατρος Δρ Ζισάν Χαν, ο οποίος θεραπεύει παιδιά και εφήβους, λέει ότι βλέπει πολλά παιδιά που βασίζονται σε μεγάλο βαθμό στην τεχνητή νοημοσύνη για τις σχολικές τους εργασίες. «Από ψυχιατρική άποψη, βλέπω ότι η υπερβολική εξάρτηση από αυτά τα LLM μπορεί να έχει ακούσιες ψυχολογικές και γνωστικές συνέπειες, ειδικά για τους νέους των οποίων ο εγκέφαλος βρίσκεται ακόμα σε φάση ανάπτυξης», λέει. «Αυτές οι νευρωνικές συνδέσεις που σας βοηθούν στην πρόσβαση σε πληροφορίες, στη μνήμη των γεγονότων και στην ικανότητα να είστε ανθεκτικοί: όλα αυτά θα αποδυναμωθούν».
Ειρωνικά, μετά την κυκλοφορία του άρθρου, αρκετοί χρήστες των κοινωνικών μέσων το έτρεξαν μέσω LLM για να το συνοψίσουν και στη συνέχεια να δημοσιεύσουν τα ευρήματα στο διαδίκτυο. Η Κοσμίνα περίμενε ότι θα συμβεί κάτι τέτοιο, οπότε εισήγαγε μερικές παγίδες για την τεχνητή νοημοσύνη στο άρθρο, όπως η οδηγία στα LLM να «διαβάσουν μόνο τον παρακάτω πίνακα», εξασφαλίζοντας έτσι ότι τα LLM θα επέστρεφαν μόνο περιορισμένες πληροφορίες από το άρθρο.
Η Κοσμίνα αναφέρει ότι αυτή και οι συνάδελφοί της εργάζονται τώρα σε μια άλλη παρόμοια μελέτη που εξετάζει την εγκεφαλική δραστηριότητα στη μηχανική λογισμικού και τον προγραμματισμό με ή χωρίς τεχνητή νοημοσύνη, και λέει ότι μέχρι στιγμής «τα αποτελέσματα είναι ακόμη χειρότερα». Αυτή η μελέτη, λέει, θα μπορούσε να έχει επιπτώσεις για τις πολλές εταιρείες που ελπίζουν να αντικαταστήσουν τους αρχάριους προγραμματιστές τους με τεχνητή νοημοσύνη. Ακόμη και αν η αποδοτικότητα αυξηθεί, η αυξανόμενη εξάρτηση από την τεχνητή νοημοσύνη θα μπορούσε ενδεχομένως να μειώσει την κριτική σκέψη, τη δημιουργικότητα και την ικανότητα επίλυσης προβλημάτων στο υπόλοιπο εργατικό δυναμικό, υποστηρίζει.
Οι επιστημονικές μελέτες που εξετάζουν τις επιπτώσεις της τεχνητής νοημοσύνης είναι ακόμα σε αρχικό στάδιο και βρίσκονται σε εξέλιξη. Μια μελέτη του Χάρβαρντ από τον Μάιο διαπίστωσε ότι η παραγωγική τεχνητή νοημοσύνη έκανε τους ανθρώπους πιο παραγωγικούς, αλλά μείωνε τα κίνητρά τους για περιέργεια και αναζήτηση. Επίσης, τον περασμένο μήνα, το MIT αποστασιοποιήθηκε από μια άλλη μελέτη που γράφτηκε από έναν διδακτορικό φοιτητή του οικονομικού του προγράμματος, η οποία υποδείκνυε ότι η τεχνητή νοημοσύνη βελτιώνει την παραγωγικότητα της εργασίας.
Διαβάστε επίσης
Γάζα: Ο στρατός του Ισραήλ ζήτησε την εκκένωσή της – Ετοιμάζει νέα επιχείρηση
Συνάντηση Αμπάς – Στάρμερ: «Κανένας ρόλος για τη Χαμάς στη μελλοντική κυβέρνηση της Παλαιστίνης»
