NoBIAS

Τα συστήματα Τεχνητής Νοημοσύνης (ΤΝ) χρησιμοποιούνται ευρέως σήμερα για να λαμβάνουν αποφάσεις που έχουν εκτεταμένες επιπτώσεις σε άτομα και κοινωνία. Οι αποφάσεις τους θα μπορούσαν να επηρεάσουν όλους, παντού και ανά πάσα στιγμή με κινδύνους, όπως η άρνηση πίστωσης, εργασίας, ιατρικής περίθαλψης ή ειδικών ειδήσεων. Οι επιχειρήσεις ενδέχεται να χάνουν ευκαιρίες, επειδή προκαταλήψεις (bias) που υπεισέρχονται σε συστήματα ΤΝ μπορεί να επηρεάσουν αρνητικά τις επιδόσεις τους. Ακόμη χειρότερα, εξαιτίας του ίδιου λόγου μπορεί να παραβιαστούν ανθρώπινα δικαιώματα και να πραγματοποιηθεί άδικη μεταχείριση των ανθρώπων.

Προκαταλήψεις (bias) μπορούν να προκύψουν σε όλα τα στάδια των διαδικασιών λήψης αποφάσεων που βασίζονται σε ΤΝ: (i) όταν συλλέγονται δεδομένα, (ii) όταν οι αλγόριθμοι εντάσσονται σε συστήματα λήψης αποφάσεων, ή (iii) όταν τα αποτελέσματα των αποφάσεων χρησιμοποιούνται σε εφαρμογές. Ως εκ τούτου, είναι απαραίτητο να προχωρήσουμε πέρα από τους παραδοσιακούς αλγορίθμους ΤΝ που είναι βελτιστοποιημένοι για προβλέψεις και να ενσωματώσουμε δεοντολογικές και νομικές αρχές στην εκπαίδευση, το σχεδιασμό και την ανάπτυξη αλγορίθμων ΤΝ για να διασφαλίσουμε το κοινωνικό καλό, ενώ εξακολουθούμε να επωφελούμαστε από το δυναμικό της ΤΝ.

Το NoBIAS θα αναπτύξει νέες μεθόδους λήψης αποφάσεων με βάση την ΤΝ χωρίς προκατάληψη λαμβάνοντας υπόψη δεοντολογικές και νομικές απόψεις στο σχεδιασμό τεχνικών λύσεων. Οι κύριοι στόχοι του NoBIAS είναι να κατανοήσουν τις νομικές, κοινωνικές και τεχνικές προκλήσεις της προκατάληψης στη λήψη αποφάσεων της ΤΝ, να τις αντιμετωπίσουν με την ανάπτυξη αλγορίθμων ευαισθητοποίησης, να εξηγήσουν αυτόματα τα αποτελέσματα της ΤΝ και να τεκμηριώσουν τη συνολική διαδικασία προέλευσης και διαφάνειας των δεδομένων.

Θα εκπαιδεύσουμε μια ομάδα 15 Νέων Ερευνητών για την αντιμετώπιση προβλημάτων με προκατάληψη μέσω της πολυεπιστημονικής κατάρτισης και της έρευνας στον τομέα της πληροφορικής, της επιστήμης των δεδομένων, της μηχανικής μάθησης, του δικαίου και της κοινωνικής επιστήμης. Οι Νέοι Ερευνητές θα αποκτήσουν πρακτική εμπειρογνωμοσύνη σε διάφορους τομείς, από την τηλεπικοινωνία, τη χρηματοδότηση, το μάρκετινγκ, τα μέσα ενημέρωσης, το λογισμικό και τη νομική συμβουλευτική, ώστε να προωθήσουν ευρέως τη συμμόρφωση με την νομοθεσία και την καινοτομία. Οι τεχνικές και διεπιστημονικές δεξιότητες θα δώσουν στους Νέους Ερευνητές ένα ξεκίνημα για μελλοντική ηγεσία στη βιομηχανία, στον ακαδημαϊκό χώρο και στην κυβέρνηση.

Κοινοπραξία

GOTTFRIED WILHELM LEIBNIZ UNIVERSITAET HANNOVER (Coordinator) (LUH), Germany
GESIS-LEIBNIZ-INSTITUT FUR SOZIALWISSENSCHAFTEN EV (GESIS), Germany
Schufa Holding AG (SCHUFA), Germany
ETHNIKO KENTRO EREVNAS KAI TECHNOLOGIKIS ANAPTYXIS (ITI), Greece
UNIVERSITA DI PISA (UNIPI), Italy
THE OPEN UNIVERSITY (OU), United Kingdom
UNIVERSITY OF SOUTHAMPTON (SOTON), United Kingdom
KATHOLIEKE UNIVERSITEIT LEUVEN (KUL), Belgium

Συνεργαζόμενοι Φορείς

ASTRAZENECA UK LIMITED, United Kingdom
EXPERT SYSTEM IBERIA SL, Spain
Generali Italia S.p.A., Italy
MediaGamma, United Kingdom
NTENT Hispania, Spain
ORANGE SA, France
Research Institute AG & Co KG, Austria
Vodafone Group. Vodafone Group Plc, United Kingdom
Norddeutsche Landesbank – Girozentr, Germany
LSTECH ESPANA, SLU, Spain