Ένα μεγάλο γλωσσικό μοντέλο, ή LLM, είναι ένα πρόγραμμα εκπαιδευμένο να προβλέπει το επόμενο κομμάτι κειμένου. Με βάση όσα έχουν γραφτεί μέχρι εκείνη τη στιγμή, υπολογίζει μια πιθανότητα για κάθε πιθανό επόμενο token, διαλέγει ένα και επαναλαμβάνει. Η συγγραφή, η περίληψη, η μετάφραση, ο κώδικας και οι απαντήσεις σε ερωτήσεις βγαίνουν όλα από αυτόν τον έναν μηχανισμό, αφού το μοντέλο εκπαιδευτεί σε τεράστιο όγκο κειμένου και ρυθμιστεί ώστε να συμπεριφέρεται σαν βοηθός. Ο ίδιος μηχανισμός εξηγεί και τα όριά του: το μοντέλο βελτιστοποιείται για κείμενο που μοιάζει σωστό, όχι για κείμενο που είναι σωστό, δεν ξέρει τίποτα για την επιχείρησή σας αν δεν του το δείξετε και δεν θυμάται τίποτα από τη μια κλήση στην άλλη αν δεν του φτιάξετε μνήμη.
Πώς δουλεύει ένα μεγάλο γλωσσικό μοντέλο, με απλά λόγια;
Ένα μεγάλο γλωσσικό μοντέλο δουλεύει σε τρία επίπεδα. Πρώτα το κείμενο κόβεται σε tokens, κομμάτια λέξεων λίγων χαρακτήρων. Μετά ένα νευρωνικό δίκτυο τύπου transformer διαβάζει ταυτόχρονα όλα τα tokens που χωρούν στο παράθυρό του (context window) και, με έναν μηχανισμό που λέγεται attention, κρίνει ποια από τα προηγούμενα tokens μετράνε για το επόμενο (Vaswani κ.ά., 2017). Τέλος, το δίκτυο βγάζει μια πιθανότητα για κάθε token του λεξιλογίου του, διαλέγεται ένα, προστίθεται στο κείμενο και ο κύκλος ξαναρχίζει.
Η συμπεριφορά του βοηθού προστίθεται μετά. Το μοντέλο μαθαίνει πρώτα από ακατέργαστο κείμενο να προβλέπει τι ακολουθεί. Ύστερα εκπαιδεύεται σε παραδείγματα γραμμένα από ανθρώπους και σε αξιολογήσεις ανθρώπων ή άλλων μοντέλων, ώστε να ακολουθεί οδηγίες, να αρνείται επικίνδυνα αιτήματα και να μένει στο θέμα (Ouyang κ.ά., 2022). Τα μοντέλα «συλλογισμού» του 2025 και του 2026 δεν απέκτησαν καινούρια ικανότητα: εκπαιδεύτηκαν να ξοδεύουν περισσότερα tokens σκεπτόμενα πριν απαντήσουν, και αυτά τα tokens τα πληρώνετε.
Μια πρακτική λεπτομέρεια εκπλήσσει τους περισσότερους επιχειρηματίες. Κάθε αίτημα προς ένα LLM στέλνει ξανά ολόκληρη τη συζήτηση. Το μοντέλο δεν κρατά τίποτα ανάμεσα στις κλήσεις, οπότε το λογισμικό γύρω του αποφασίζει τι θα δει κάθε φορά.
Τι είναι το token και γιατί τα ελληνικά κοστίζουν περισσότερο;
Το token είναι η μονάδα με την οποία ένα LLM διαβάζει και χρεώνει, συνήθως λίγα γράμματα ή ένα κομμάτι λέξης. Το ελληνικό κείμενο κόβεται σε περισσότερα tokens από το ίδιο αγγλικό, άρα κοστίζει περισσότερο, γεμίζει γρηγορότερα το παράθυρο του μοντέλου και θέλει άλλες ρυθμίσεις στην αναζήτηση εγγράφων. Μέτρησα τη διαφορά σε σαράντα ζεύγη προτάσεων, γραμμένα στο χέρι στα ελληνικά και στα αγγλικά, στο tokenlab:
- Στο νεότερο λεξιλόγιο της OpenAI (
o200k), τα ελληνικά χρειάζονται 2,06 φορές τα tokens των αγγλικών. Σχεδόν όλη η διαφορά οφείλεται στο ότι κάθε ελληνικό γράμμα πιάνει δύο bytes, όχι στο λεξιλόγιο. - Στο παλαιότερο λεξιλόγιο
cl100k, που το χρησιμοποιούν ακόμη ορισμένα μοντέλα embeddings, τα ελληνικά χρειάζονται 5,12 φορές τα tokens.
Το ίδιο μοτίβο φαίνεται και στα ανοιχτά μοντέλα. Ο tokenizer του Llama 3.1 χρησιμοποιεί 2,73 tokens ανά ελληνική λέξη απέναντι σε 1,33 ανά αγγλική, και το ελληνικό Llama-Krikri κατέβασε τα ελληνικά στο 1,65 προσθέτοντας περίπου 21.000 ελληνικά tokens (Roussis κ.ά., 2025). Μπορείτε να γράψετε το δικό σας κείμενο στο tokenlab και να δείτε πώς κόβεται.
Σε τι είναι καλό ένα LLM;
Ένα LLM τα πηγαίνει καλά όπου μια απάντηση που ακούγεται σωστή είναι και σωστή, ή όπου το αποτέλεσμα το ελέγχει άνθρωπος ή πρόγραμμα:
- πρώτες εκδοχές για email, απαντήσεις, περιγραφές προϊόντων και έγγραφα,
- περιλήψεις υλικού που του δίνετε, όπως μια σύμβαση, μια αλληλογραφία ή μια αναφορά,
- κατηγοριοποίηση και δρομολόγηση, όπως ετικέτες σε αιτήματα υποστήριξης ή ταξινόμηση τιμολογίων,
- εξαγωγή πεδίων από ακατάστατο κείμενο σε δομή που αποθηκεύει ένα πρόγραμμα,
- μετάφραση και αναδιατύπωση ανάμεσα σε ύφη και γλώσσες,
- συγγραφή και έλεγχος κώδικα, με tests που τον επιβεβαιώνουν,
- απαντήσεις πάνω σε έγγραφα που του δίνονται τη στιγμή της ερώτησης.
Τι δεν μπορεί να κάνει ένα LLM;
Ένα LLM δεν μπορεί να κάνει αξιόπιστα πέντε πράγματα, και κάθε σοβαρό σύστημα σχεδιάζεται γύρω από αυτά:
- Να ξέρει πότε δεν ξέρει. Τα γλωσσικά μοντέλα εκπαιδεύονται και βαθμολογούνται με τρόπους που ανταμείβουν μια σίγουρη μαντεψιά περισσότερο από το «δεν ξέρω» (Kalai κ.ά., 2025). Αν του ζητήσετε να βαθμολογήσει τη βεβαιότητά του, δεν διορθώνεται τίποτα, γιατί η βεβαιότητα που δηλώνει σχεδόν δεν αλλάζει όταν κάνει λάθος.
- Να ξέρει την επιχείρησή σας. Το μοντέλο δεν εκπαιδεύτηκε στον τιμοκατάλογό σας, στις συμβάσεις σας ή στις χθεσινές παραγγελίες. Τα χρειάζεται μέσα στην εντολή, μέσω ανάκτησης εγγράφων (RAG) ή μέσω εργαλείων.
- Να θυμάται. Κάθε κλήση ξεκινά από το μηδέν. Η μνήμη ανάμεσα σε συζητήσεις είναι κάτι που χτίζετε και αποθηκεύετε εσείς, όχι κάτι που έχει το μοντέλο.
- Να μετρά και να υπολογίζει σε κλίμακα. Η αριθμητική, οι ημερομηνίες και τα σύνολα ανήκουν στον κώδικα: το μοντέλο αποφασίζει τι θα υπολογιστεί, δεν το υπολογίζει.
- Να δίνει δύο φορές την ίδια απάντηση. Ακόμη και με θερμοκρασία μηδέν, τα μοντέλα στο cloud μπορεί να επιστρέψουν διαφορετικό κείμενο για την ίδια είσοδο, λόγω του τρόπου που οι servers ομαδοποιούν τα αιτήματα (Thinking Machines, 2025). Ελέγξτε ιδιότητες της απάντησης, όχι ακριβή διατύπωση.
Το πρώτο όριο το ένιωσα στην πράξη όταν εκπαίδευσα το δικό μου μοντέλο από το μηδέν. Το BSLM είναι ένας δίγλωσσος βοηθός 72 εκατομμυρίων παραμέτρων που χωρά σε 78 MB και τρέχει σε κινητό. Φτιάχτηκε ώστε να ελέγχει τα γεγονότα με ένα εργαλείο και να παραθέτει την πηγή αντί να τα απαγγέλλει από μνήμης, και ένας έλεγχος σε κώδικα τού επιτρέπει να δώσει μια πληροφορία μόνο αν αυτή υπάρχει σε όσα μόλις διάβασε. Σε 570 εργασίες που δεν είχε δει, πιάνει συνολικά 91,2%, και η πιο αδύναμη κατηγορία του παραμένουν οι ανοιχτές ερωτήσεις γεγονότων, στο 68% ακόμη και με την αναζήτηση: το ταβάνι ενός μοντέλου αυτού του μεγέθους. Τα μεγάλα μοντέλα έχουν πολύ ψηλότερο ταβάνι, αλλά ο κανόνας σχεδιασμού μένει ίδιος: πρώτα ψάχνετε, μετά απαντάτε.
Πώς σχετίζονται το LLM, το chatbot και ο AI agent;
Το LLM είναι η μηχανή, το chatbot είναι ένας τρόπος να μιλάτε μαζί της και ο AI agent είναι ένας κύκλος που της επιτρέπει να ενεργεί. Ένα chatbot στέλνει το μήνυμά σας σε ένα LLM και σας δείχνει την απάντηση. Ένας AI agent δίνει στο LLM εργαλεία, όπως αναζήτηση σε βάση δεδομένων ή προσχέδιο email, και το αφήνει να διαλέγει το επόμενο βήμα μέχρι να επιτευχθεί ένας στόχος. Τη διαφορά, και το πότε ταιριάζει το καθένα, την εξηγώ στο agentic AI: τι είναι.
Ποιο LLM να χρησιμοποιήσει μια επιχείρηση;
Μια επιχείρηση διαλέγει το μοντέλο που ολοκληρώνει σωστά τη δική της εργασία με το μικρότερο συνολικό κόστος, μετρημένο στα δικά της παραδείγματα. Σπάνια είναι το φθηνότερο ανά token, γιατί ένα φθηνότερο μοντέλο που αποτυγχάνει χρεώνει τα tokens του, μετά την επανάληψη και μετά το κόστος του λάθους. Ξεκινήστε με ένα ικανό μοντέλο στο cloud, αποδείξτε ότι η εργασία δουλεύει σε πενήντα έως εκατό πραγματικές περιπτώσεις και μετά δοκιμάστε φθηνότερες ρυθμίσεις, μία αλλαγή τη φορά. Για δουλειά στα ελληνικά μετρήστε σε ελληνικό κείμενο, γιατί και το κόστος και η ποιότητα διαφέρουν από τα αγγλικά. Για αποφάσεις και όχι για κείμενο, μια δομημένη απάντηση ή ένα μοντέλο αποφάσεων συχνά κάνει καλύτερη δουλειά από ένα μεγάλο μοντέλο που γράφει ελεύθερα, όπως εξηγώ στο Jev και δομημένες απαντήσεις.
Συχνές ερωτήσεις
Είναι το ChatGPT μεγάλο γλωσσικό μοντέλο;
Το ChatGPT είναι μια εφαρμογή χτισμένη πάνω στα μεγάλα γλωσσικά μοντέλα της OpenAI. Το LLM είναι το μοντέλο από κάτω, και το ChatGPT προσθέτει γύρω του το περιβάλλον συνομιλίας, εργαλεία όπως η αναζήτηση στο web και τις λειτουργίες του λογαριασμού.
Μαθαίνουν τα LLM από όσα τους γράφω;
Εξαρτάται από το προϊόν και τις ρυθμίσεις. Μέσω του API της OpenAI, για παράδειγμα, τα δεδομένα δεν χρησιμοποιούνται για εκπαίδευση από προεπιλογή (OpenAI, your data). Οι εφαρμογές για ιδιώτες έχουν δικές τους ρυθμίσεις, οπότε μια επιχείρηση χρησιμοποιεί API ή επαγγελματικό πακέτο και διαβάζει τους όρους για τα δεδομένα πριν στείλει στοιχεία πελατών.
Καταλαβαίνουν τα LLM ελληνικά;
Τα μεγάλα μοντέλα διαβάζουν και γράφουν καλά ελληνικά, αλλά τα ελληνικά κοστίζουν περίπου διπλάσια tokens από τα αγγλικά στα σημερινά λεξιλόγια και το κείμενο συχνά ακούγεται μεταφρασμένο. Δοκιμάστε σε πραγματικό ελληνικό υλικό και βάλτε έναν φυσικό ομιλητή να ελέγχει ό,τι φτάνει σε πελάτη.
Αν θέλετε να μάθετε ποια από τις εργασίες σας μπορεί να αναλάβει με ασφάλεια ένα LLM, στείλτε μου ένα πραγματικό παράδειγμα της εργασίας και θα σας πω τι χρειάζεται γύρω από το μοντέλο. Πώς χτίζω αυτά τα συστήματα, το βρίσκετε στο agentic AI σε πραγματική λειτουργία.