Μετά από τριήμερες «μαραθώνιες» συνομιλίες, η Προεδρία του Συμβουλίου και οι διαπραγματευτές του Ευρωπαϊκού Κοινοβουλίου κατέληξαν σε προσωρινή συμφωνία σχετικά με την πρόταση για εναρμονισμένους κανόνες για την τεχνητή νοημοσύνη (AI), τη λεγόμενη πράξη τεχνητής νοημοσύνης. Το σχέδιο κανονισμού στοχεύει να διασφαλίσει ότι τα συστήματα τεχνητής νοημοσύνης που διατίθενται στην ευρωπαϊκή αγορά και χρησιμοποιούνται στην ΕΕ είναι ασφαλή και σέβονται τα θεμελιώδη δικαιώματα και τις αξίες της ΕΕ. Αυτή η πρόταση ορόσημο στοχεύει επίσης να τονώσει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη στην Ευρώπη.
Αυτό είναι ένα ιστορικό επίτευγμα και ένα τεράστιο ορόσημο για το μέλλον! Η σημερινή συμφωνία αντιμετωπίζει αποτελεσματικά μια παγκόσμια πρόκληση σε ένα ταχέως εξελισσόμενο τεχνολογικό περιβάλλον σε έναν βασικό τομέα για το μέλλον των κοινωνιών και των οικονομιών μας. Και σε αυτή την προσπάθεια, καταφέραμε να διατηρήσουμε μια εξαιρετικά λεπτή ισορροπία: ενισχύοντας την καινοτομία και την υιοθέτηση της τεχνητής νοημοσύνης σε ολόκληρη την Ευρώπη, με ταυτόχρονη πλήρη σεβασμό των θεμελιωδών δικαιωμάτων των πολιτών μας. Carme Artigas, Ισπανός υπουργός για την ψηφιοποίηση και την τεχνητή νοημοσύνη
Η πράξη AI είναι α ναυαρχίδα νομοθετική πρωτοβουλία με τη δυνατότητα να προωθήσει την ανάπτυξη και την υιοθέτηση ασφαλούς και αξιόπιστης τεχνητής νοημοσύνης στην ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς όσο και από δημόσιους φορείς. Η κύρια ιδέα είναι να ρυθμιστεί η τεχνητή νοημοσύνη με βάση την ικανότητα της τελευταίας να προκαλεί βλάβη στην κοινωνία μετά από α «βασισμένο στον κίνδυνο» πλησιάζω: όσο μεγαλύτερος είναι ο κίνδυνος, τόσο πιο αυστηροί είναι οι κανόνες. Ως πρώτη νομοθετική πρόταση αυτού του είδους στον κόσμο, μπορεί να ορίσει α παγκόσμιο πρότυπο για τη ρύθμιση της τεχνητής νοημοσύνης σε άλλες δικαιοδοσίες, όπως ακριβώς έχει κάνει ο GDPR, προωθώντας έτσι την ευρωπαϊκή προσέγγιση για τη ρύθμιση της τεχνολογίας στην παγκόσμια σκηνή.
Τα κύρια στοιχεία της προσωρινής συμφωνίας
Σε σύγκριση με την αρχική πρόταση της Επιτροπής, τα κύρια νέα στοιχεία της προσωρινής συμφωνίας μπορούν να συνοψιστούν ως εξής:
κανόνες για μοντέλα τεχνητής νοημοσύνης γενικής χρήσης υψηλής απόδοσης που μπορεί να προκαλέσει συστημικό κίνδυνο στο μέλλον, καθώς και υψηλού κινδύνου Συστήματα AI
ένα αναθεωρημένο σύστημα διακυβέρνησης με ορισμένες εξουσίες επιβολής σε επίπεδο ΕΕ
επέκταση του καταλόγου των απαγορεύσεις αλλά με δυνατότητα χρήσης απομακρυσμένη βιομετρική αναγνώριση από τις αρχές επιβολής του νόμου σε δημόσιους χώρους, με την επιφύλαξη διασφαλίσεων
καλύτερη προστασία των δικαιωμάτων μέσω της υποχρέωσης για τους προγραμματιστές συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου να διεξάγουν α αξιολόγηση των επιπτώσεων των θεμελιωδών δικαιωμάτων πριν θέσετε ένα σύστημα AI σε χρήση.
Πιο συγκεκριμένα, η προσωρινή συμφωνία καλύπτει τις ακόλουθες πτυχές:
Ορισμοί και πεδίο εφαρμογής
Για να διασφαλιστεί ότι το ορισμός ενός συστήματος τεχνητής νοημοσύνης παρέχει αρκετά σαφή κριτήρια για τη διάκριση της τεχνητής νοημοσύνης από τα απλούστερα συστήματα λογισμικού, η συμβιβαστική συμφωνία ευθυγραμμίζει τον ορισμό με την προσέγγιση που προτείνει ο ΟΟΣΑ.
Η προσωρινή συμφωνία διευκρινίζει επίσης ότι ο κανονισμός δεν εφαρμόζεται σε τομείς εκτός του πεδίου εφαρμογής του δικαίου της ΕΕ και δεν θα πρέπει, σε καμία περίπτωση, να επηρεάζει τις αρμοδιότητες των κρατών μελών σε Εθνική ασφάλεια ή οποιαδήποτε οντότητα στην οποία έχουν ανατεθεί καθήκοντα σε αυτόν τον τομέα. Επιπλέον, ο νόμος AI δεν θα ισχύει για συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικός or άμυνα σκοποί. Ομοίως, η συμφωνία προβλέπει ότι ο κανονισμός δεν θα ισχύει για συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για τον αποκλειστικό σκοπό την έρευνα και την καινοτομία, ή για άτομα που χρησιμοποιούν τεχνητή νοημοσύνη για μη επαγγελματικούς λόγους.
Διαφήμιση
Ταξινόμηση συστημάτων τεχνητής νοημοσύνης ως υψηλού κινδύνου και απαγορευμένων πρακτικών τεχνητής νοημοσύνης
Η συμβιβαστική συμφωνία προβλέπει α οριζόντιο στρώμα προστασίας, συμπεριλαμβανομένης μιας ταξινόμησης υψηλού κινδύνου, για να διασφαλιστεί ότι τα συστήματα τεχνητής νοημοσύνης που δεν είναι πιθανό να προκαλέσουν σοβαρές παραβιάσεις των θεμελιωδών δικαιωμάτων ή άλλους σημαντικούς κινδύνους δεν καταγράφονται. Παρουσιάζουν μόνο συστήματα AI περιορισμένο κίνδυνο θα υπόκεινται σε πολύ φως υποχρεώσεις διαφάνειας, για παράδειγμα αποκαλύπτοντας ότι το περιεχόμενο δημιουργήθηκε από AI, ώστε οι χρήστες να μπορούν να λαμβάνουν τεκμηριωμένες αποφάσεις για περαιτέρω χρήση.
Ένα μεγάλο εύρος από υψηλού κινδύνου Τα συστήματα τεχνητής νοημοσύνης θα εγκρίνονται, αλλά υπόκεινται σε ένα σύνολο απαιτήσεων και υποχρεώσεων για να αποκτήσουν πρόσβαση στην αγορά της ΕΕ. Οι απαιτήσεις αυτές έχουν διευκρινιστεί και προσαρμοστεί από τους συννομοθέτες με τέτοιο τρόπο ώστε να είναι περισσότερες τεχνικά εφικτό και λιγότερο επιβαρυντικό ώστε οι ενδιαφερόμενοι να συμμορφώνονται, για παράδειγμα όσον αφορά την ποιότητα των δεδομένων, ή σε σχέση με την τεχνική τεκμηρίωση που πρέπει να καταρτίσουν οι ΜΜΕ για να αποδείξουν ότι τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου συμμορφώνονται με τις απαιτήσεις.
Δεδομένου ότι τα συστήματα τεχνητής νοημοσύνης αναπτύσσονται και διανέμονται μέσω πολύπλοκων αλυσίδων αξίας, η συμβιβαστική συμφωνία περιλαμβάνει αλλαγές που διευκρινίζουν κατανομή των αρμοδιοτήτων και ρόλους των διάφορων ηθοποιών σε αυτές τις αλυσίδες, ιδίως παρόχους και χρήστες συστημάτων τεχνητής νοημοσύνης. Διευκρινίζει επίσης τη σχέση μεταξύ των ευθυνών βάσει του νόμου περί τεχνητής νοημοσύνης και των ευθυνών που υπάρχουν ήδη βάσει άλλης νομοθεσίας, όπως η σχετική νομοθεσία της ΕΕ για την προστασία δεδομένων ή η τομεακή νομοθεσία.
Για ορισμένες χρήσεις της τεχνητής νοημοσύνης, θεωρείται κίνδυνος Απαράδεκτος και, ως εκ τούτου, αυτά τα συστήματα θα απαγορευθούν από την Ε.Ε. Η προσωρινή συμφωνία απαγορεύει, για παράδειγμα, τα γνωστικά χειραγώγηση συμπεριφοράς, το άστοχο διάλυση εικόνων προσώπων από το διαδίκτυο ή πλάνα CCTV, αναγνώριση συναισθημάτων στο χώρο εργασίας και στα εκπαιδευτικά ιδρύματα, κοινωνική βαθμολογία, βιομετρική κατηγοριοποίηση να συμπεράνει ευαίσθητα δεδομένα, όπως ο σεξουαλικός προσανατολισμός ή οι θρησκευτικές πεποιθήσεις, και ορισμένες περιπτώσεις πρόβλεψη αστυνόμευσης για άτομα.
Εξαιρέσεις επιβολής του νόμου
Λαμβάνοντας υπόψη τις ιδιαιτερότητες του αρχές επιβολής του νόμου και την ανάγκη να διατηρήσουν την ικανότητά τους να χρησιμοποιούν τεχνητή νοημοσύνη στο ζωτικό τους έργο, συμφωνήθηκαν αρκετές αλλαγές στην πρόταση της Επιτροπής σχετικά με τη χρήση συστημάτων τεχνητής νοημοσύνης για σκοπούς επιβολής του νόμου. Με την επιφύλαξη κατάλληλης διασφαλίσεις, αυτές οι αλλαγές έχουν σκοπό να αντικατοπτρίζουν την ανάγκη σεβασμού της εμπιστευτικότητας των ευαίσθητων επιχειρησιακών δεδομένων σε σχέση με τις δραστηριότητές τους. Για παράδειγμα, εισήχθη μια διαδικασία έκτακτης ανάγκης που επιτρέπει στις υπηρεσίες επιβολής του νόμου να αναπτύξουν ένα εργαλείο τεχνητής νοημοσύνης υψηλού κινδύνου που δεν έχει περάσει το αξιολόγηση της συμμόρφωσης διαδικασία σε περίπτωση επείγουσας ανάγκης. Ωστόσο, έχει επίσης εισαχθεί ένας ειδικός μηχανισμός για να διασφαλιστεί αυτό θεμελιωδών δικαιωμάτων θα προστατεύονται επαρκώς από πιθανές κακές χρήσεις συστημάτων τεχνητής νοημοσύνης.
Επιπλέον, όσον αφορά τη χρήση σε πραγματικό χρόνο απομακρυσμένη βιομετρική αναγνώριση συστήματα σε χώρους προσβάσιμους από το κοινό, η προσωρινή συμφωνία διευκρινίζει τους στόχους όπου η χρήση αυτή είναι απολύτως απαραίτητη για σκοπούς επιβολής του νόμου και για τους οποίους θα πρέπει, επομένως, να επιτρέπεται κατ' εξαίρεση στις αρχές επιβολής του νόμου να χρησιμοποιούν τέτοια συστήματα. Η συμβιβαστική συμφωνία προβλέπει πρόσθετες διασφαλίσεις και περιορίζει αυτές τις εξαιρέσεις σε περιπτώσεις θυμάτων ορισμένων εγκλημάτων, πρόληψη γνήσιων, παρόντων ή προβλέψιμων απειλών, όπως τρομοκρατικές επιθέσεις και αναζητήσεις για άτομα που είναι ύποπτα για τα πιο σοβαρά εγκλήματα.
Συστήματα τεχνητής νοημοσύνης γενικής χρήσης και μοντέλα θεμελίωσης
Προστέθηκαν νέες διατάξεις για να ληφθούν υπόψη καταστάσεις όπου τα συστήματα τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν για πολλούς διαφορετικούς σκοπούς (γενικής χρήσης AI), και όπου η τεχνολογία AI γενικής χρήσης ενσωματώνεται στη συνέχεια σε άλλο σύστημα υψηλού κινδύνου. Η προσωρινή συμφωνία εξετάζει επίσης τις ειδικές περιπτώσεις συστημάτων τεχνητής νοημοσύνης γενικής χρήσης (GPAI).
Έχουν επίσης συμφωνηθεί ειδικοί κανόνες μοντέλα θεμελίωσης, μεγάλα συστήματα ικανά να εκτελούν με ικανοποίηση ένα ευρύ φάσμα χαρακτηριστικών εργασιών, όπως δημιουργία βίντεο, κειμένου, εικόνων, συνομιλία σε πλευρική γλώσσα, υπολογισμός ή δημιουργία κώδικα υπολογιστή. Η προσωρινή συμφωνία προβλέπει ότι τα μοντέλα θεμελίωσης πρέπει να συμμορφώνονται με συγκεκριμένες υποχρεώσεις διαφάνειας προτού διατεθούν στην αγορά. Εισήχθη αυστηρότερο καθεστώς για «μεγάλος αντίκτυπος» μοντέλα θεμελίωσης. Αυτά είναι μοντέλα θεμελίωσης εκπαιδευμένα με μεγάλο όγκο δεδομένων και με προηγμένη πολυπλοκότητα, δυνατότητες και απόδοση πολύ πάνω από τον μέσο όρο, τα οποία μπορούν να διαδώσουν συστημικούς κινδύνους κατά μήκος της αλυσίδας αξίας.
Μια νέα αρχιτεκτονική διακυβέρνησης
Ακολουθώντας τους νέους κανόνες για τα μοντέλα GPAI και την προφανή ανάγκη επιβολής τους σε επίπεδο ΕΕ, α Γραφείο AI εντός της Επιτροπής έχει συσταθεί επιφορτισμένο με την επίβλεψη αυτών των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης, να συμβάλλει στην προώθηση προτύπων και πρακτικών δοκιμών και να επιβάλλει τους κοινούς κανόνες σε όλα τα κράτη μέλη. ΕΝΑ επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων θα συμβουλεύει το Γραφείο AI σχετικά με τα μοντέλα GPAI, συμβάλλοντας στην ανάπτυξη μεθοδολογιών για την αξιολόγηση των δυνατοτήτων των μοντέλων θεμελίωσης, συμβουλεύοντας για τον προσδιορισμό και την εμφάνιση μοντέλων θεμελίωσης υψηλής πρόσκρουσης και παρακολουθώντας πιθανούς κινδύνους για την ασφάλεια των υλικών που σχετίζονται με τα μοντέλα θεμελίωσης.
Η AI Board, που θα αποτελείται από εκπροσώπους των κρατών μελών, θα παραμείνει ως πλατφόρμα συντονισμού και συμβουλευτικό όργανο για την Επιτροπή και θα δώσει σημαντικό ρόλο στα κράτη μέλη για την εφαρμογή του κανονισμού, συμπεριλαμβανομένου του σχεδιασμού κωδίκων πρακτικής για τα θεμελιώδη μοντέλα. Τέλος, ένα συμβουλευτικό φόρουμ για ενδιαφερόμενα μέρη, όπως εκπροσώπους του κλάδου, ΜΜΕ, νεοφυείς επιχειρήσεις, κοινωνία των πολιτών και ακαδημαϊκό κόσμο, θα δημιουργηθεί για την παροχή τεχνικής εμπειρογνωμοσύνης στο συμβούλιο τεχνητής νοημοσύνης.
κυρώσεις
Τα πρόστιμα για παραβάσεις του νόμου περί τεχνητής νοημοσύνης ορίστηκαν ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της παραβατικής εταιρείας κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, όποιο είναι μεγαλύτερο. Αυτό θα ήταν 35 εκατ. ευρώ ή 7% για παραβιάσεις των απαγορευμένων εφαρμογών τεχνητής νοημοσύνης, 15 εκατ. ευρώ ή 3% για παραβάσεις των υποχρεώσεων του νόμου περί τεχνητής νοημοσύνης και 7,5 εκατ. ευρώ ή 1,5% για παροχή εσφαλμένων πληροφοριών. Ωστόσο, η προσωρινή συμφωνία προβλέπει πιο αναλογικά ανώτατα όρια σχετικά με διοικητικά πρόστιμα σε ΜΜΕ και νεοσύστατες επιχειρήσεις σε περίπτωση παραβίασης των διατάξεων του νόμου ΔΠ.
Η συμβιβαστική συμφωνία καθιστά επίσης σαφές ότι ένα φυσικό ή νομικό πρόσωπο μπορεί να υποβάλει καταγγελία στο αρμόδιο αρχή εποπτείας της αγοράς σχετικά με τη μη συμμόρφωση με τον νόμο περί τεχνητής νοημοσύνης και ενδέχεται να αναμένεται ότι μια τέτοια καταγγελία θα αντιμετωπιστεί σύμφωνα με τις ειδικές διαδικασίες της εν λόγω αρχής.
Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων
Η προσωρινή συμφωνία προβλέπει α αξιολόγηση των επιπτώσεων των θεμελιωδών δικαιωμάτων προτού διατεθεί στην αγορά ένα σύστημα τεχνητής νοημοσύνης υψηλού κινδύνου από τους δημιουργούς του. Η προσωρινή συμφωνία προβλέπει επίσης αυξημένη διαφάνεια σχετικά με τη χρήση συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου. Συγκεκριμένα, ορισμένες διατάξεις της πρότασης της Επιτροπής τροποποιήθηκαν για να υποδειχθεί ότι ορισμένοι χρήστες ενός συστήματος τεχνητής νοημοσύνης υψηλού κινδύνου που είναι δημόσιοι φορείς θα υποχρεωθούν επίσης να εγγραφούν στο Βάση δεδομένων ΕΕ για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου. Επιπλέον, οι νέες διατάξεις που προστέθηκαν δίνουν έμφαση στην υποχρέωση για τους χρήστες ενός σύστημα αναγνώρισης συναισθημάτων να ενημερώνει τα φυσικά πρόσωπα όταν εκτίθενται σε τέτοιο σύστημα.
Μέτρα στήριξης της καινοτομίας
Με σκοπό τη δημιουργία ενός νομικού πλαισίου που θα είναι πιο φιλικό προς την καινοτομία και για την προώθηση της ρυθμιστικής μάθησης βάσει στοιχείων, οι διατάξεις που αφορούν μέτρα για τη στήριξη της καινοτομίας έχουν τροποποιηθεί ουσιαστικά σε σύγκριση με την πρόταση της Επιτροπής.
Σημειωτέον, έχει διευκρινιστεί ότι η Α.Ι ρυθμιστικά κουτιά άμμου, τα οποία υποτίθεται ότι δημιουργούν ένα ελεγχόμενο περιβάλλον για την ανάπτυξη, τη δοκιμή και την επικύρωση καινοτόμων συστημάτων τεχνητής νοημοσύνης, θα πρέπει επίσης να επιτρέπουν τη δοκιμή καινοτόμων συστημάτων τεχνητής νοημοσύνης σε πραγματικές συνθήκες. Επιπλέον, έχουν προστεθεί νέες διατάξεις που επιτρέπουν δοκιμών των συστημάτων AI σε πραγματικές συνθήκες του κόσμου, υπό συγκεκριμένες προϋποθέσεις και διασφαλίσεις. Για την ελάφρυνση του διοικητικού φόρτου για τις μικρότερες εταιρείες, η προσωρινή συμφωνία περιλαμβάνει κατάλογο ενεργειών που πρέπει να αναληφθούν για την υποστήριξη αυτών των φορέων και προβλέπει ορισμένες περιορισμένες και σαφώς καθορισμένες παρεκκλίσεις.
Εναρξη ισχύος
Η προσωρινή συμφωνία προβλέπει ότι θα πρέπει να εφαρμόζεται ο νόμος AI δύο χρόνια μετά την έναρξη ισχύος του, με ορισμένες εξαιρέσεις ειδικών διατάξεων.
Τα επόμενα βήματα
Μετά τη σημερινή προσωρινή συμφωνία, οι εργασίες θα συνεχιστούν σε τεχνικό επίπεδο τις επόμενες εβδομάδες για να οριστικοποιηθούν οι λεπτομέρειες του νέου κανονισμού. Η Προεδρία θα υποβάλει το συμβιβαστικό κείμενο στους εκπροσώπους των κρατών μελών (Coreper) για έγκριση μόλις ολοκληρωθεί αυτή η εργασία.
Ολόκληρο το κείμενο θα πρέπει να επιβεβαιωθεί και από τα δύο θεσμικά όργανα και να υποβληθεί σε νομική-γλωσσική αναθεώρηση πριν από την επίσημη έγκριση από τους συννομοθέτες.
Γενικές πληροφορίες
Η πρόταση της Επιτροπής, που παρουσιάστηκε τον Απρίλιο του 2021, αποτελεί βασικό στοιχείο της πολιτικής της ΕΕ για την προώθηση της ανάπτυξης και της υιοθέτησης ασφαλούς και νόμιμης τεχνητής νοημοσύνης στην ενιαία αγορά που σέβεται τα θεμελιώδη δικαιώματα.
Η πρόταση ακολουθεί μια προσέγγιση που βασίζεται στον κίνδυνο και καθορίζει ένα ενιαίο, οριζόντιο νομικό πλαίσιο για την τεχνητή νοημοσύνη που αποσκοπεί στη διασφάλιση της ασφάλειας δικαίου. Το σχέδιο κανονισμού στοχεύει να προωθήσει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη, να ενισχύσει τη διακυβέρνηση και την αποτελεσματική επιβολή της υφιστάμενης νομοθεσίας για τα θεμελιώδη δικαιώματα και την ασφάλεια και να διευκολύνει την ανάπτυξη μιας ενιαίας αγοράς για εφαρμογές τεχνητής νοημοσύνης. Συμβαδίζει με άλλες πρωτοβουλίες, συμπεριλαμβανομένου του συντονισμένου σχεδίου για την τεχνητή νοημοσύνη που στοχεύει στην επιτάχυνση των επενδύσεων στην τεχνητή νοημοσύνη στην Ευρώπη. Στις 6 Δεκεμβρίου 2022, το Συμβούλιο κατέληξε σε συμφωνία για μια γενική προσέγγιση (εντολή διαπραγμάτευσης) σχετικά με αυτόν τον φάκελο και ξεκίνησε διοργανικές συνομιλίες με το Ευρωπαϊκό Κοινοβούλιο («τριλόγοι») στα μέσα Ιουνίου 2023.
Το EU Reporter δημοσιεύει άρθρα από διάφορες εξωτερικές πηγές που εκφράζουν ένα ευρύ φάσμα απόψεων. Οι θέσεις που λαμβάνονται σε αυτά τα άρθρα δεν είναι απαραίτητα αυτές του EU Reporter.
