Faragiri
Ελληνικά

Εκμάθηση: Ανάπτυξη με μοντέλα Τεχνητή νοημοσύνη

Ένα πρακτορείο εισιτηρίων στον Πειραιά, μια ερώτηση για σκύλο και ένας κανόνας για ζώα συντροφιάς. Τι κοστίζει η ανάκτηση, και με τι μετριέται.

7Ενότητες
7Λεπτά ανάγνωσης
2Βάθος

Η σειρά

Το δεύτερο σκαλί είναι αυτό που προσπερνούν όλοι

Σκάλα και όχι λίστα: το τέταρτο σκαλί δεν κρίνεται χωρίς το δεύτερο, και ούτε το τρίτο αποσφαλματώνεται χωρίς αυτό.

  1. 01Κάντε την κλήσηΈνα βράδυ. Ξεκαθαρίζει το κόστος και τους τρόπους αποτυχίας
  2. 02Γράψτε το σύνολο αξιολόγησηςΠριν υπάρξει η λειτουργία, και με λάθος απαντήσεις μέσα του
  3. 03Δώστε του το υλικό σαςΑνάκτηση, και είναι πρώτα πρόβλημα αναζήτησης
  4. 04Αλλάξτε το σχήμαΕξειδίκευση, και μόνο απέναντι στο δεύτερο σκαλί
  5. 05Βάλτε το μπροστά σε αγνώστουςΛήξεις χρόνου, επαναλήψεις, χρέωση, και έξοδος που δεν έγραψε κανείς

Η προσπέραση του δεύτερου σκαλιού είναι αόρατη για καμιά εξαριά εβδομάδες, επειδή όλα από πάνω του εξακολουθούν να τρέχουν. Δεν λείπει η ορθότητα, λείπει η δυνατότητα να ειπωθεί αν άλλαξε κάτι.

Ένας πελάτης ρωτά αν παίρνει τον σκύλο στην καμπίνα, και η αποτυχία που έρχεται πρώτη δεν είναι η απάντηση του μοντέλου. Είναι ότι η παράγραφος για τα ζώα συντροφιάς δεν μπήκε ποτέ μπροστά του.

Η Μαρία Σακελλαρίου συντηρεί το λογισμικό ενός πρακτορείου ακτοπλοϊκών εισιτηρίων στον Πειραιά. Το ζητούμενο ήταν μικρό: ο πελάτης γράφει την ερώτησή του με δικά του λόγια και το σύστημα απαντά από τον κανονισμό μεταφοράς και από τα δρομολόγια. Το μοντέλο ήταν το κομμάτι που δούλευε ήδη. Ό,τι χάλασε επί έναν μήνα ήταν εκατέρωθέν του.

Η σωστή παράγραφος, ή τίποτα

Η ερώτηση για τον σκύλο τράβηξε το απόσπασμα για τις αποσκευές χειρός. Η παράγραφος που πράγματι τη διέπει λέει ζώα συντροφιάς και κλίνη, και δεν μοιράζεται ούτε μία λέξη με το σκύλο και το καμπίνα που έγραψε ο πελάτης. Το μοντέλο έβγαλε μετά μια ευγενική, στρωτή και λάθος παράγραφο από το απόσπασμα που του δόθηκε, που ήταν και το μόνο που μπορούσε να κάνει με αυτό.

Αν η σωστή παράγραφος δεν βρίσκεται στα πρώτα αποτελέσματα, η απάντηση δεν σώζεται. Αυτή η πρόταση μετακινεί τη δουλειά: η ανάκτηση κρίνεται από το αν το σωστό απόσπασμα είναι μέσα στη χούφτα που περνά παρακάτω, και αυτό είναι πρόβλημα αναζήτησης με δεκαετίες τεχνικής από πίσω του, καμία από την οποία δεν αφορά μοντέλα.

Στα ελληνικά το χάσμα είναι φαρδύτερο από ό,τι σε οποιαδήποτε αγγλική περιγραφή του ίδιου προβλήματος, και ο λόγος είναι ότι η χώρα γράφει τους κανονισμούς της σε άλλο μητρώο από αυτό που μιλά. Ο κανονισμός λέει ανήλικοι κάτω των δώδεκα ετών και ο πελάτης γράφει το παιδί μου. Λέει επιβατηγό όχημα ιδιωτικής χρήσης και ο πελάτης γράφει το αμάξι. Η λύση της Μαρίας δεν ήταν μηχανική: ευρετηριάστε κάθε κανόνα δύο φορές, όπως γράφτηκε και όπως ρωτιέται, και η δεύτερη γραφή είναι μία πρόταση που τη συντάσσει άνθρωπος ο οποίος έχει σηκώσει το τηλέφωνο.

Μία ερώτηση φτάνει σε τρεις γραφές

Η ίδια ερώτηση μπαίνει στο πεδίο με τρεις μορφές, και είναι ένας πελάτης, όχι τρεις:

  • κατοικίδια στο πλοίο, σε σωστά μονοτονικά ελληνικά
  • κατοικιδια στο πλοιο, χωρίς τόνους, όπως πληκτρολογεί μεγάλο μέρος του κόσμου
  • katoikidia sto ploio, ελληνικά γραμμένα με λατινικούς χαρακτήρες

Μία ελληνική ερώτηση φτάνει σε τρεις γραφές, και ο δείκτης τις θέλει και τις τρεις. Η μεσαία λύνεται με ισοπέδωση των τόνων κατά την ευρετηρίαση και κατά την ερώτηση, και το Postgres έχει την επέκταση unaccent για ακριβώς αυτή τη δουλειά. Ο έλεγχος που πρέπει να γίνει πριν στηθεί ο δείκτης είναι αν το αρχείο κανόνων της έκδοσης που τρέχετε ισοπεδώνει όντως τα ελληνικά φωνήεντα, γιατί δεν είναι το ίδιο σε κάθε εγκατάσταση. Η τρίτη γραφή δεν λύνεται με ισοπέδωση και θέλει δικό της χάρτη μεταγραφής, ή, φθηνότερα, μια δεύτερη σειρά ερωτήσεων γραμμένη έτσι στο σύνολο αξιολόγησης.

Η εξειδίκευση διδάσκει σχήμα, όχι γεγονός

Πριν από όλα αυτά η Μαρία πέρασε δεκαπέντε μέρες εξειδικεύοντας ένα μοντέλο πάνω σε 300 παλιά μηνύματα εξυπηρέτησης, με τη λογική ότι το σύστημα πρέπει να μάθει πώς απαντά το πρακτορείο. Πέτυχε. Οι απαντήσεις γύριζαν με το ύφος του γραφείου, με τον ίδιο χαιρετισμό στο τέλος, και εξίσου λάθος για τον σκύλο.

Η εξειδίκευση διδάσκει σχήμα, όχι γεγονός. Μετακινεί το ύφος, τη μορφή και το είδος αυτού που παράγεται, που αξίζει όταν η έξοδος πρέπει να μοιάζει κάθε φορά με κάτι συγκεκριμένο. Είναι λάθος όργανο για να βγει σωστά μια συγκεκριμένη παράγραφος, και η αποτυχία που παράγει είναι η ακριβή: οι απαντήσεις γίνονται πιο πειστικές μένοντας εξίσου λανθασμένες. Ένα δρομολόγιο που αλλάζει κάθε εβδομάδα ανήκει σε κάτι που διαβάζεται τη στιγμή της απάντησης, ποτέ μέσα στα βάρη.

Το σύνολο αξιολόγησης που δεν της είπε τίποτα

Είχε γράψει σύνολο αξιολόγησης, που ήταν το ένα πράγμα που έγινε με τη σωστή σειρά. Γράψτε το σύνολο αξιολόγησης πριν από τη λειτουργία, γιατί μια επίδειξη δεν αποτυγχάνει: η επίδειξη είναι ερώτηση διαλεγμένη αφού υπήρξε το σύστημα, και διαλέγει ό,τι ήδη δουλεύει, κάθε φορά, χωρίς να το αποφασίσει κανείς.

Η πρώτη εκδοχή της δεν της δίδαξε τίποτα, και εδώ σταματά ο Έλληνας αναγνώστης με τρόπο που η αγγλική περιγραφή δεν αγγίζει. Δώδεκα ερωτήσεις, όλες εύλογες, όλες απαντημένες σωστά από το πρώτο απόγευμα. Σύνολο αξιολόγησης χωρίς λάθος απαντήσεις μέσα του μετρά μόνο ότι το πράγμα τρέχει. Ο λόγος που γράφτηκε έτσι δεν είναι αμέλεια: σε μια χώρα όπου κάθε δοκιμασία από τα εφτά χρόνια και μετά ήταν βαθμός που κάποιος θα ζητούσε εξηγήσεις γι' αυτόν, το σύνολο αξιολόγησης γράφεται για να περαστεί. Το δεύτερο σύνολο, αυτό που άξιζε, χτίστηκε από τις ερωτήσεις που το σύστημα είχε βγάλει λάθος εκείνον τον μήνα, με την ερώτηση για τον σκύλο πρώτη και με την αναμενόμενη απάντηση γραμμένη από άνθρωπο. Το σχήμα όλης της πειθαρχίας από κάτω είναι αυτό, και γι' αυτό οι Αξιολογήσεις δεν είναι το τακτικό τελευταίο βήμα, είναι το όργανο μέσα από το οποίο διαβάζεται κάθε άλλο.

Πού είναι η δουλειά

Όλα στενεύουν σε ένα αίτημα, και το αίτημα είναι το κομμάτι που δεν γράψατε

Τέσσερα πράγματα στριμώχνονται σε μία κλήση, και τρεις συνέπειες πέφτουν από κάτω της. Η ίδια η κλήση είναι λίγες γραμμές.

  1. Η ερώτηση του πελάτηΓραμμένη όπως γράφει κανείς από κινητό, στην ουρά
  2. Ο κανονισμός μεταφοράςΈντεκα σελίδες, γραμμένες για τοίχο γραφείου
  3. Τα δρομολόγιαΑλλάζουν κάθε εβδομάδα, και ζουν σε άλλο σύστημα
  4. Η μόνιμη οδηγίαΓια ποιον είναι η απάντηση, και τι δεν επιτρέπεται να επινοηθεί
Ένα αίτημα, μία απάντησηΑντικαθίσταται από άλλον προμηθευτή μέσα σε ένα απόγευμα, που είναι η ένδειξη για το πού δεν βρίσκεται η αξία
  1. Μια απάντηση που πέρασε έλεγχο τύπουΉ μια απόρριψη, κρατημένη για το σύνολο αξιολόγησης του επόμενου μήνα
  2. Μια κράτηση, ή μια άρνησηΓραμμή σε βάση δεδομένων που παίρνεται πίσω δύσκολα
  3. Η Κυριακή κάποιουΕκεί φτάνει τελικά μια παράγραφος που δεν ανακτήθηκε ποτέ

Οι δύο κώνοι είναι το σύστημα και ο λαιμός είναι ο προμηθευτής. Σχέδιο που έκανε τον λαιμό το μεγαλύτερο κομμάτι θα ήταν εικόνα της επίδειξης και όχι του πράγματος σε λειτουργία.

Ο λογαριασμός κάθεται στα αποσπάσματα

Τον Ιούλιο του 2026 το πρακτορείο δέχτηκε 1.240 ερωτήσεις. Κάθε απόσπασμα του κανονισμού είναι γύρω στους 700 χαρακτήρες. Με οκτώ αποσπάσματα ανά ερώτηση φεύγουν 5.600 χαρακτήρες κανονισμού σε κάθε κλήση, με τρία φεύγουν 2.100, και η απάντηση που γυρίζει είναι τρεις προτάσεις είτε έτσι είτε αλλιώς. Ο λογαριασμός κρέμεται από το πόσα αποσπάσματα στέλνονται, όχι από το ποιο μοντέλο διαλέχθηκε.

Πάνω σε αυτό κάθεται μια δεύτερη ελληνική επιβάρυνση. Το ελληνικό κείμενο πιάνει περισσότερες λεκτικές μονάδες από το αγγλικό με το ίδιο περιεχόμενο, οπότε ο ίδιος κανονισμός γεμίζει μεγαλύτερο μέρος του παραθύρου και κοστίζει περισσότερο ανά ερώτηση από ό,τι θα κόστιζε το αγγλικό εγχειρίδιο ενός αντίστοιχου γραφείου στο Ρότερνταμ. Πόσο περισσότερο, μετριέται με έναν κόφτη και όχι με εκτίμηση, και ο τρόπος είναι στο Πώς λειτουργούν τα μοντέλα.

Και οι δύο πλευρές της κλήσης είναι δικές σας. Κάθε κλήση είναι κλήση δικτύου, οπότε αποτυγχάνει όπως αποτυγχάνουν οι κλήσεις δικτύου: αργά, κατά διαστήματα, και τη χειρότερη στιγμή. Χρεώνεται κιόλας, και μια επανάληψη πάνω σε λήξη χρόνου μπορεί να χρεώσει δύο φορές και να απαντήσει μία. Στην έξοδο, μεταχειριστείτε την έξοδο του μοντέλου σαν έντυπο που συμπλήρωσε άγνωστος: ελέγξτε την απέναντι σε δηλωμένο τύπο, απορρίψτε ό,τι δεν ταιριάζει, και κρατήστε την απόρριψη, γιατί οι απορρίψεις είναι οι περιπτώσεις του επόμενου μήνα.

Η σειρά, και το βήμα που παραλείπεται

Πρώτα η κλήση, στη Χρήση της υπηρεσίας, που παίρνει ένα βράδυ και ξεκαθαρίζει τι κοστίζει το πράγμα και πώς χαλάει. Δεύτερο το σύνολο αξιολόγησης. Τρίτη η Ανάκτηση από δικό σας υλικό, όπου αποδεικνύεται ότι κάθεται η περισσότερη δουλειά. Τέταρτη και σπάνια η Εξειδίκευση μοντέλου. Ύστερα το Σε πραγματική λειτουργία.

Το δεύτερο βήμα είναι αυτό που παραλείπεται, και η παράλειψη δεν φαίνεται για καμιά εξαριά εβδομάδες. Χωρίς αυτό, το τρίτο βήμα δεν αποσφαλματώνεται, επειδή τίποτα δεν ξεχωρίζει μια ανάκτηση που βελτιώθηκε από μια που απλώς άλλαξε. Το τέταρτο δεν δικαιολογείται καθόλου, αφού η μόνη δήλωση που κάνει ποτέ η εξειδίκευση είναι συγκριτική. Όποιος φτάσει στο τέταρτο βήμα χωρίς το δεύτερο έχει αγοράσει μια ακριβή αλλαγή που δεν έχει τρόπο να αποτιμήσει, και θα την κρατήσει, επειδή ακούγεται καλύτερη.

Τι ανοίγει από την Ελλάδα το 2026

Το pgvector βάζει τα διανύσματα μέσα στο Postgres που ήδη βρίσκεται κάτω από την εφαρμογή, το 2026, και αντικατέστησε το στήσιμο δεύτερης βάσης μόνο και μόνο για να τα κρατά. Δωρεάν και ανοιχτού κώδικα, και τίποτα δεν το εμποδίζει από την Ελλάδα. Είναι η σωστή προεπιλογή επειδή η ανάκτηση που δουλεύει χρειάζεται συνήθως φίλτρο δίπλα στην ομοιότητα, και μια ερώτηση για την Κυριακή θέλει τους κανόνες αυτής της γραμμής, σε ισχύ σήμερα, ταξινομημένους και με τα δύο.

Το Pydantic ελέγχει ό,τι γύρισε απέναντι σε δηλωμένο τύπο πριν το δει οτιδήποτε επόμενο, δωρεάν και ανοιχτού κώδικα το 2026, και αντικατέστησε το διάβασμα πεζού κειμένου με κανονική έκφραση και ελπίδα.

Το promptfoo τρέχει ένα αρχείο περιπτώσεων πάνω σε μια προτροπή σε κάθε αλλαγή και αναφέρει ποιες απαντήσεις κουνήθηκαν, το 2026, δωρεάν και ανοιχτού κώδικα. Αντικατέστησε τη δοκιμή των ίδιων τριών ερωτήσεων με το χέρι μετά από κάθε επεξεργασία, που είναι η μέθοδος που χρησιμοποιούν όλοι πρώτα και που διαλέγει αθόρυβα τις τρεις ερωτήσεις που ήδη δουλεύουν.

Μένει η ερώτηση που κάθεται κάτω από τον μήνα που έχασε η Μαρία. Τίποτα στην αποτυχία της ανάκτησης δεν αφορούσε μοντέλα: ήταν ένας κανονισμός γραμμένος για τοίχο γραφείου, ευρετηριασμένος με τις λέξεις που έτυχε να περιέχει. Αυτό είναι Δεδομένα με άλλο κοστούμι, και η εκδοχή του προβλήματος που έχει όνομα και βιβλιογραφία είναι Από τον κώδικα στην παραγωγή, που είχε λήξεις χρόνου, επαναλήψεις και επαναφορές πολύ πριν από όλα αυτά. Όταν την κλήση την κάνει λογισμικό που αποφασίζει μόνο του πότε, το ίδιο πρόβλημα ξαναρχίζει στους Πράκτορες.

Δίπλα σε αυτό

Πάνω από αυτό