Νεα και Ανακοινωση

• Η τεχνητή νοημοσύνη δεν μεταφέρει την ευθύνη, την καθιστά πιο ορατή

Η τεχνητή νοημοσύνη δεν είναι πλέον υπόθεση αποκλειστικά των ειδικών Πληροφορικής. Είναι εργαλείο που αλλάζει τον τρόπο με τον οποίο μηχανικοί κάθε ειδικότητας αναλύουν δεδομένα, διαχειρίζονται διαδικασίες, αξιολογούν λύσεις και λαμβάνουν αποφάσεις. Από τεχνικές προδιαγραφές και ελέγχους συμμόρφωσης μέχρι τη συγκριτική αξιολόγηση εναλλακτικών, η χρησιμότητά της είναι χειροπιαστή στην καθημερινή πρακτική του μηχανικού.

Στις αρχές του 2026 η συζήτηση έχει μετατοπιστεί από το «τι είναι η τεχνητή νοημοσύνη» στο «πώς την ελέγχουμε στην πράξη». Η τεχνολογία έχει ωριμάσει από εργαλεία που απλώς απαντούν σε ερωτήσεις, σε συστήματα που διασυνδέονται απευθείας με υπηρεσίες και εξοπλισμό (machine-to-machine), και πλέον σε agents που εκτελούν ενέργειες (Agentic AI) και ενσωματώνονται στις κρίσιμες λειτουργίες του οργανισμού. Σε κάθε στάδιο αυτής της εξέλιξης αυξάνεται η αποδοτικότητα, αλλά αυξάνεται αντίστοιχα και η ανάγκη για σαφή όρια, ιχνηλασιμότητα και διακυβέρνηση. Agentic δεν σημαίνει ανεξέλεγκτο. Σημαίνει αυτοματοποίηση με κανόνες και σημεία ανθρώπινης έγκρισης.

Τρία στοιχεία είναι απαραίτητα σε κάθε εφαρμογή: σαφή όρια χρήσης, υποχρεωτική καταγραφή όλων των ενεργειών, και ανθρώπινη έγκριση στα κρίσιμα σημεία. Ένα παράδειγμα το δείχνει καθαρά. Σκεφτείτε ένα σύστημα παρακολούθησης τεχνικής υποδομής που δέχεται δεκάδες χιλιάδες ειδοποιήσεις την ώρα. Κανείς δεν μπορεί να τις διαβάσει όλες. Ο μηχανικός ορίζει τα κριτήρια, τι είναι θόρυβος και τι είναι κρίσιμο. Η τεχνητή νοημοσύνη συσχετίζει συμβάντα από διαφορετικά υποσυστήματα, εντοπίζει πιθανή αιτία, κοινοποιεί το αποτέλεσμα και, εφόσον υπάρχει σαφής πολιτική, εκτελεί στοχευμένες ενέργειες αποκατάστασης αυτόματα, με δυνατότητα επαναφοράς (rollback) και πλήρη ιχνηλασιμότητα. Αυτό είναι αυτοματισμός με διακυβέρνηση, όπου η ανθρώπινη παρέμβαση παραμένει εκεί που το ρίσκο το απαιτεί.

Όσο πιο κοντά βρίσκεται μια εφαρμογή τεχνητής νοημοσύνης σε κρίσιμες λειτουργίες, τόσο περισσότερο χρειάζεται έλεγχο εγκυρότητας, διαχείριση εξαιρέσεων, ασφαλείς προεπιλογές (safe defaults) και τεκμηριωμένα κριτήρια αποδοχής. Στην πράξη, η αξιοπιστία μετριέται μέσα από συγκεκριμένους δείκτες (KPIs) όπως ποσοστό σφαλμάτων, ποσοστό περιπτώσεων που παραπέμπονται σε άνθρωπο και πλήρη ιχνηλασιμότητα αποφάσεων. Σε πιο αυτόνομα σενάρια εφαρμόζονται μοντέλα σταδιακής εμπιστοσύνης (graduated trust), όπου η αυτονομία αυξάνεται μόνο όταν οι μετρήσιμες επιδόσεις και το επίπεδο ρίσκου το δικαιολογούν.

Πριν από κάθε παραγωγική χρήση χρειάζεται να οριστεί ο χώρος δράσης (action-space) κάθε agent, δηλαδή ποια δεδομένα, εργαλεία και ενέργειες του επιτρέπονται, και να συμφωνηθούν τα σημεία έγκρισης και η καταγραφή. Αυτό είναι επαληθεύσιμη διακυβέρνηση (verifiable governance), όπου οι κανόνες δεν μένουν σε θεωρητικό επίπεδο, αλλά ενσωματώνονται στο σύστημα και ελέγχονται εκ των υστέρων.

Η διακυβέρνηση της τεχνητής νοημοσύνης είναι πρακτικό πλαίσιο λήψης αποφάσεων. Ποιος εγκρίνει μια εφαρμογή που επηρεάζει κρίσιμη λειτουργία; Ποιος είναι υπεύθυνος για το αποτέλεσμα; Πώς τεκμηριώνεται η απόφαση ώστε να ελέγχεται εκ των υστέρων; Οι απαντήσεις διαφέρουν ανάλογα με τον οργανισμό, αλλά μία κοινή αρχή ισχύει παντού. Χρειάζονται σαφείς κανόνες για το τι επιτρέπεται να αποστέλλεται σε εξωτερικά μοντέλα και τι πρέπει να παραμένει εντός οργανισμού, ειδικά όταν πρόκειται για ευαίσθητα ή κρίσιμα δεδομένα. Αυτό δεν είναι μόνο τεχνική επιλογή, είναι απόφαση με νομικές και επιχειρησιακές συνέπειες.

Στην Ευρώπη οι απαιτήσεις αυτές αποκτούν κανονιστική μορφή με τον EU AI Act, που εφαρμόζεται σταδιακά με γενική έναρξη στις 2 Αυγούστου 2026, και απαιτεί τεκμηρίωση, ιχνηλασιμότητα και ανθρώπινη εποπτεία ανάλογα με την κατηγορία ρίσκου. Το διεθνές πρότυπο ISO/IEC 42001 δίνει θεσμική μορφή σε αυτή τη λογική, με ρόλους, ευθύνες και ελέγχους σε επίπεδο οργανισμού, ώστε η διακυβέρνηση να είναι ελέγξιμη εκ των υστέρων.

Ένα στοιχείο που συχνά υποτιμάται είναι ο τρόπος με τον οποίο διατυπώνονται οι οδηγίες προς την τεχνητή νοημοσύνη (Prompting). Η αναλογία με τις τεχνικές προδιαγραφές είναι άμεση. Όταν οι απαιτήσεις είναι σαφείς, με συγκεκριμένο πλαίσιο, στόχο, περιορισμούς και μορφή αποτελέσματος, μειώνονται οι παρερμηνείες και τα κενά που καλύπτονται με υποθέσεις. Σε agentic εφαρμογές αυτή η σαφήνεια επεκτείνεται και σε κανόνες εκτέλεσης: τι επιτρέπεται να γίνει αυτόματα, τι απαιτεί έγκριση, ποια δεδομένα μπορούν να χρησιμοποιηθούν και πώς καταγράφεται κάθε βήμα. Ακριβώς όπως ένα τεχνικό έγγραφο που δεν προδιαγράφει τις παραδοχές του αφήνει χώρο για λάθη.

Τα γλωσσικά μοντέλα μπορεί να παράγουν πειστικό κείμενο που δεν είναι ορθό. Η αρχή του human-in-the-loop, η επαλήθευση από αρμόδιο επαγγελματία, η διασταύρωση με αξιόπιστες πηγές και ο έλεγχος στα πραγματικά δεδομένα δεν είναι προαιρετικά. Η τεχνητή νοημοσύνη δεν μεταφέρει την ευθύνη, την καθιστά πιο ορατή. Ο έλεγχος ορθότητας, η αξιολόγηση ρίσκου και η τελική κρίση παραμένουν στον μηχανικό που υπογράφει και λογοδοτεί. Όπως στο σύστημα παρακολούθησης που διαχωρίζει το κρίσιμο από τον θόρυβο, έτσι και εδώ η τεχνητή νοημοσύνη επιταχύνει την ανάλυση και ενισχύει την αποδοτικότητα. Η ευθύνη όμως δεν αυτοματοποιείται και παραμένει ανθρώπινη.

Ιωάννης Ζαπίτης
Μέλος Γενικού Συμβουλίου ΕΤΕΚ