← Όλα τα άρθρα

Ποιος πληρώνει όταν κάνει λάθος η τεχνητή νοημοσύνη; Συμβάσεις, ευθύνη και ασφάλιση

Ένα σύστημα τεχνητής νοημοσύνης θα βγάλει λάθος αποτέλεσμα. Όχι ίσως: σίγουρα. Γι' αυτό η σύμβαση ενός έργου τεχνητής νοημοσύνης πρέπει να λέει από πριν τι γίνεται όταν συμβεί, και τέσσερις όροι κάνουν το μεγαλύτερο μέρος της δουλειάς: παραλαβή με μέτρηση σε σετ ελέγχου που έχουν συμφωνήσει και οι δύο πλευρές, ποσοστό λαθών γραμμένο σε αριθμό μαζί με την αποκατάσταση, ένας συγκεκριμένος άνθρωπος που ελέγχει το αποτέλεσμα πριν χρησιμοποιηθεί, και ανώτατο όριο ευθύνης που αντέχουν και οι δύο πλευρές. Δύο κανόνες απ' έξω διαμορφώνουν πλέον αυτούς τους όρους. Ο κανονισμός της ΕΕ για την τεχνητή νοημοσύνη (AI Act) ορίζει ποιος θεωρείται πάροχος ενός συστήματος, και η νέα ευρωπαϊκή Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων αντιμετωπίζει το λογισμικό, μαζί και τα συστήματα τεχνητής νοημοσύνης, ως προϊόν για ό,τι διατίθεται στην αγορά μετά τις 9 Δεκεμβρίου 2026.

Γιατί ένα λάθος της τεχνητής νοημοσύνης διαφέρει από ένα bug;

Διαφέρει γιατί ένα bug είναι ελάττωμα που εντοπίζεται, αναπαράγεται και διορθώνεται, ενώ ένα γλωσσικό μοντέλο δίνει ένα φάσμα απαντήσεων από τις οποίες ένα ποσοστό είναι λάθος, και αυτό το ποσοστό μειώνεται με δουλειά αλλά δεν μηδενίζεται ποτέ. Μια σύμβαση γραμμένη για συνηθισμένο λογισμικό υπόσχεται διόρθωση των ελαττωμάτων. Σε ένα σύστημα τεχνητής νοημοσύνης, αυτή η υπόσχεση γίνεται ατελείωτη. Βοηθά να ξεχωρίσετε τρεις περιπτώσεις, γιατί τις χειρίζονται διαφορετικοί όροι:

  • Ένα συνηθισμένο λάθος μέσα στο συμφωνημένο ποσοστό. Αναμενόμενη συμπεριφορά, κανείς δεν παραβιάζει τη σύμβαση.
  • Λάθη πάνω από το συμφωνημένο ποσοστό. Το σύστημα αποδίδει χειρότερα από ό,τι παραλήφθηκε. Ζήτημα υπηρεσίας με αποκατάσταση, όχι γεγονός ευθύνης.
  • Ένα λάθος που προκαλεί ζημία. Ένα λάθος αποτέλεσμα φτάνει σε πελάτη ή οδηγεί σε απόφαση και κάποιος χάνει χρήματα. Εδώ μπαίνουν το ανώτατο όριο ευθύνης, οι αποζημιώσεις και η ασφάλιση.

Τι πρέπει να λένε η παραλαβή και το ποσοστό λαθών;

Η παραλαβή πρέπει να λέει ότι το σύστημα παραλαμβάνεται όταν πιάσει έναν συμφωνημένο βαθμό σε μια συμφωνημένη μέτρηση, πάνω σε σετ ελέγχου που «παγώνει» πριν από την κατασκευή και που έχει και ο πελάτης. Το «κατά την εύλογη κρίση του πελάτη» δεν δουλεύει στην τεχνητή νοημοσύνη, γιατί υπάρχει πάντα ένα ακόμη παράδειγμα που αποτυγχάνει και η παραλαβή δεν έρχεται ποτέ. Πώς φτιάχνετε αυτό το σετ, στο evals: πώς αποδεικνύετε ότι ένα σύστημα τεχνητής νοημοσύνης δουλεύει. Δίπλα της, η σύμβαση πρέπει να γράφει το αναμενόμενο ποσοστό λαθών σε αριθμό, να λέει ότι τα λάθη μέσα σε αυτό είναι αναμενόμενη συμπεριφορά και όχι ελαττώματα, και να ορίζει κλιμακωτή αποκατάσταση όταν το μετρημένο ποσοστό είναι χειρότερο: πρώτα βελτίωση μέσα σε ορισμένο διάστημα, μετά μείωση της αμοιβής, μετά λύση της σύμβασης. Κάθε συνεργασία που αναλαμβάνω ξεκινά με μια πρώτη συζήτηση, ένα γραπτό σχέδιο και ένα πιλοτικό πάνω στα δεδομένα του πελάτη, και το πιλοτικό είναι αυτό που επιτρέπει να γραφτεί αυτός ο όρος: κανείς δεν μπορεί να δεσμευτεί σε έναν αριθμό που δεν έχει μετρήσει ποτέ.

Ποιος ελέγχει το αποτέλεσμα πριν χρησιμοποιηθεί;

Η σύμβαση πρέπει να ορίζει ποιος ελέγχει το αποτέλεσμα, ποια αποτελέσματα, με ποια συχνότητα και τι γίνεται αν ο έλεγχος παραλειφθεί. Αν τον έλεγχο τον κάνουν οι άνθρωποι του πελάτη, η παράλειψή του είναι δική τους απόφαση και δικός τους κίνδυνος, όχι ελάττωμα του προμηθευτή. Ο ανθρώπινος έλεγχος είναι το βασικό φρένο στα λάθη του μοντέλου, και η απουσία του βρίσκεται πίσω από τις περισσότερες ζημίες που γίνονται αξιώσεις. Για τα συστήματα υψηλού κινδύνου ο AI Act το κάνει νόμο: το άρθρο 26 υποχρεώνει τους φορείς εφαρμογής να αναθέτουν την ανθρώπινη εποπτεία σε ανθρώπους με την κατάλληλη επάρκεια, εκπαίδευση και εξουσία (AI Act, άρθρο 26). Ποιες ενέργειες χρειάζονται αυτή την έγκριση στην πράξη, στο human in the loop.

Πόση ευθύνη πρέπει να δέχεται ένας προμηθευτής τεχνητής νοημοσύνης;

Ευθύνη με ανώτατο όριο που μπορεί να πληρώσει, με εξαιρεμένες τις έμμεσες ζημίες, τα διαφυγόντα κέρδη και τη διακοπή της δραστηριότητας. Ο κανόνας της αγοράς είναι οι αμοιβές των τελευταίων δώδεκα μηνών, το ίδιο όριο που δίνουν στους δικούς τους πελάτες οι πάροχοι μοντέλων όπως η Anthropic: οι εμπορικοί της όροι περιορίζουν την ευθύνη της στις αμοιβές που καταβλήθηκαν για τις υπηρεσίες της τους προηγούμενους δώδεκα μήνες (Anthropic, εμπορικοί όροι). Ένας προμηθευτής που δέχεται περισσότερα απέναντι στον πελάτη του σηκώνει μόνος όλη τη διαφορά. Ο δόλος, ο θάνατος και η σωματική βλάβη συνήθως δεν μπορούν να έχουν όριο στην Ευρώπη, οπότε περιμένετε να μένουν έξω από αυτό. Την ίδια προσοχή θέλουν και οι ρήτρες αποζημίωσης: μια ρήτρα για την πνευματική ιδιοκτησία πρέπει να καλύπτει τη δική του πρωτότυπη δουλειά, όχι αποτελέσματα που παρήγαγε μοντέλο τρίτου ή υλικό που έδωσε ο πελάτης, γιατί ακριβώς αυτά εξαιρούν και οι πάροχοι από τις δικές τους αποζημιώσεις.

Ποια είναι η εγγύηση που δεν μπορεί να δώσει κανείς;

Κανείς δεν μπορεί να εγγυηθεί ότι το αποτέλεσμα της τεχνητής νοημοσύνης είναι σωστό. Οι όροι της Anthropic δηλώνουν, με κεφαλαία, ότι δεν εγγυάται πως οι υπηρεσίες ή τα αποτελέσματά της είναι ακριβή, πλήρη ή χωρίς λάθη. Ένας προμηθευτής που υπόσχεται ακρίβεια στον πελάτη του δίνει μια υπόσχεση χωρίς κάλυψη, που αρνήθηκε να δώσει ο δικός του προμηθευτής. Αυτό που μπορεί να εγγυηθεί είναι ό,τι ελέγχει: εύλογη επιμέλεια και επαγγελματική δεξιότητα, συμμόρφωση με τον νόμο και ένα σύστημα που πέρασε τα κριτήρια παραλαβής τη στιγμή της παραλαβής. Αν ένας πελάτης χρειάζεται εγγυημένη ακρίβεια, ο τίμιος δρόμος είναι μια ασφαλισμένη εγγύηση απόδοσης, και το κόστος της μπαίνει στην τιμή.

Ποιος είναι ο πάροχος σύμφωνα με τον AI Act;

Πάροχος είναι όποιος διαθέτει ένα σύστημα στην αγορά ή το θέτει σε λειτουργία με το δικό του όνομα, και φορέας εφαρμογής όποιος το χρησιμοποιεί υπό την ευθύνη του. Τρεις περιπτώσεις καλύπτουν τα περισσότερα έργα:

  1. Ένα σύστημα κατά παραγγελία που λειτουργεί με το brand του πελάτη. Ο πελάτης είναι πάροχος και φορέας εφαρμογής, ο κατασκευαστής παρέχει υπηρεσία.
  2. Ένα σύστημα που πουλιέται με το όνομα του προμηθευτή. Ο προμηθευτής είναι πάροχος και σηκώνει τις βαρύτερες υποχρεώσεις.
  3. Το σύστημα υψηλού κινδύνου κάποιου άλλου με το δικό σας λογότυπο. Το άρθρο 25 κάνει πάροχο όποιον βάζει το όνομα ή το σήμα του πάνω του (AI Act, άρθρο 25). Το ίδιο ισχύει αν αλλάξετε τον σκοπό ενός γενικού συστήματος σε σκοπό υψηλού κινδύνου, όπως η αξιολόγηση υποψηφίων για μια θέση εργασίας.

Η σύμβαση πρέπει να ονομάζει τους ρόλους, να δηλώνει τον σκοπό χρήσης και να καταγράφει ποιος έκανε την εκτίμηση κινδύνου και πότε. Από πότε ισχύει κάθε υποχρέωση, στο AI Act: τι ισχύει για τις ελληνικές επιχειρήσεις.

Τι αλλάζει στις 9 Δεκεμβρίου 2026;

Στις 9 Δεκεμβρίου 2026 η νέα Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων αρχίζει να εφαρμόζεται στα προϊόντα που διατίθενται στην αγορά μετά από αυτή την ημερομηνία, και αντιμετωπίζει το λογισμικό ως προϊόν, μαζί με τα συστήματα τεχνητής νοημοσύνης και το λογισμικό που παρέχεται ως υπηρεσία (Οδηγία (ΕΕ) 2024/2853). Αποζημιώνει θάνατο, σωματική βλάβη, ζημιά σε περιουσία και καταστροφή ή αλλοίωση δεδομένων που δεν χρησιμοποιούνται αποκλειστικά για επαγγελματικούς σκοπούς, και δεν καλύπτει την καθαρά οικονομική ζημία. Επιτρέπει επίσης στα δικαστήρια να διατάζουν την αποκάλυψη αποδεικτικών στοιχείων και να τεκμαίρουν ότι ένα προϊόν είναι ελαττωματικό όταν η τεχνική πολυπλοκότητα κάνει την απόδειξη υπερβολικά δύσκολη. Η πρακτική ανάγνωση: ένα λάθος της τεχνητής νοημοσύνης που κοστίζει χρήματα από μια επιχείρηση σε μια άλλη παραμένει θέμα της σύμβασης, ενώ η τεχνητή νοημοσύνη που αγγίζει την ασφάλεια, την υγεία, τις συσκευές ή τα προσωπικά αρχεία ανθρώπων μπαίνει πλέον και σε καθεστώς αντικειμενικής ευθύνης.

Καλύπτει η ασφάλιση τα λάθη της τεχνητής νοημοσύνης;

Μπορεί ναι, μπορεί όχι, και αυτό το κρίνει η διατύπωση του συμβολαίου. Μια συνηθισμένη ασφάλιση επαγγελματικής αστικής ευθύνης για τεχνολογικές υπηρεσίες απαντά σε αξιώσεις για αμέλεια, και ένα σωστά φτιαγμένο σύστημα που δίνει λάθος απάντηση μάλλον δεν είναι αμέλεια. Η σελίδα ενός μεγάλου βρετανικού ασφαλιστικού προϊόντος για τεχνολογικές υπηρεσίες, όπως τη διάβασα τον Σεπτέμβριο του 2026, δεν ανέφερε καθόλου την τεχνητή νοημοσύνη. Ειδική κάλυψη για την τεχνητή νοημοσύνη υπάρχει, όπως το aiSure της Munich Re (Munich Re), αλλά απευθύνεται σε μεγάλους προμηθευτές, και σε εκείνη την έρευνα δεν βρέθηκε αντίστοιχο προϊόν για την ελληνική αγορά. Ρωτήστε γραπτώς τον ασφαλιστή σας αν κάποια εξαίρεση αναφέρει την τεχνητή νοημοσύνη ή τις αυτοματοποιημένες αποφάσεις, αν καλύπτεται ένα λάθος αποτέλεσμα από μοντέλο τρίτου που έχετε ενσωματώσει και αν οι «επαγγελματικές υπηρεσίες» περιλαμβάνουν τον σχεδιασμό και τη λειτουργία συστημάτων τεχνητής νοημοσύνης.

Τι άλλο χρειάζεται μια σύμβαση για τεχνητή νοημοσύνη;

Δύο όροι ξεχνιούνται πιο συχνά. Πρώτον, ρητή άδεια να στέλνονται τα δεδομένα του πελάτη σε συγκεκριμένους παρόχους μοντέλων: χωρίς αυτήν, ένας συνηθισμένος όρος εμπιστευτικότητας κάνει κάθε κλήση API παραβίαση, όπως εξηγώ στο GDPR και τεχνητή νοημοσύνη. Δεύτερον, ένας όρος αλλαγής μοντέλου που επιτρέπει στον προμηθευτή να αλλάξει μοντέλο όσο ο συμφωνημένος βαθμός παραλαβής συνεχίζει να ισχύει, γιατί οι πάροχοι αποσύρουν μοντέλα με το δικό τους πρόγραμμα, όπως εξηγώ στο πώς διαλέγετε μοντέλο τεχνητής νοημοσύνης. Ο έλεγχος μιας τέτοιας σύμβασης απέναντι στα δικά σας πρότυπα είναι ένα από τα συστήματα που φτιάχνω στην τεχνητή νοημοσύνη για νομικά και συμμόρφωση.

Συχνές ερωτήσεις

Μπορώ να κάνω τον προμηθευτή μου υπεύθυνο για κάθε λάθος απάντηση;

Όχι σε σύμβαση που θα υπογράψει ένας σοβαρός προμηθευτής. Μια δίκαιη σύμβαση θεωρεί αναμενόμενα τα λάθη μέσα στο συμφωνημένο ποσοστό, ζήτημα υπηρεσίας με αποκατάσταση όσα το ξεπερνούν, και ευθύνη μέχρι ένα όριο όσα προκαλούν ζημία.

Ποιος ευθύνεται αν οι υπάλληλοί μας ενεργήσουν πάνω σε λάθος απάντηση;

Εξαρτάται από τον όρο για τον έλεγχο. Αν ο έλεγχος του αποτελέσματος ήταν υποχρέωση της δικής σας ομάδας και παραλείφθηκε, ο κίνδυνος είναι δικός σας. Αν τον ανέλαβε ο προμηθευτής, είναι δικός του.

Καλύπτει ο νέος νόμος για τα ελαττωματικά προϊόντα το επιχειρηματικό λογισμικό;

Καλύπτει το λογισμικό ως προϊόν, αλλά αποζημιώνει συγκεκριμένα είδη ζημίας, όπως σωματική βλάβη, ζημιά σε περιουσία και απώλεια μη επαγγελματικών δεδομένων. Τα χρήματα που χάνει μια επιχείρηση εξαιτίας του λογισμικού μιας άλλης παραμένουν θέμα της μεταξύ τους σύμβασης.

Αυτός είναι πρακτικός οδηγός, όχι νομική συμβουλή, και κάθε σύμβαση πρέπει να τη διαβάσει δικηγόρος πριν την υπογράψετε. Αν ετοιμάζεστε να υπογράψετε ή να στείλετε σύμβαση για έργο τεχνητής νοημοσύνης, στείλτε μου το αντικείμενο και τους όρους παραλαβής, χωρίς εμπιστευτικά στοιχεία. Αν η παραλαβή, το ποσοστό λαθών και η υποχρέωση ελέγχου μπορούν πράγματι να μετρηθούν, φαίνεται συνήθως σε μία σελίδα.

Περισσότερα από το blog