Η Τεχνητή Νοημοσύνη (AI) είναι πλέον διάχυτη στη σύγχρονη ζωή, επηρεάζοντας τα πάντα, από τη δημιουργία αυτόνομων οχημάτων έως συστήματα συστάσεων που μας βοηθούν να επιλέξουμε. Η προκατάληψη στην τεχνητή νοημοσύνη μπορεί να λάβει πολλές διαφορετικές μορφές, αν και είναι πιο συνηθισμένο να βλέπουμε φυλετικές και κοινωνικοοικονομικές προκαταλήψεις. Οι ανησυχίες σχετικά με τη φυλετική προκατάληψη στα συστήματα τεχνητής νοημοσύνης είναι καλά τεκμηριωμένες. Οι αποφάσεις που λαμβάνονται από αλγόριθμους που βασίζονται σε δεδομένα του παρελθόντος ενδέχεται να ενισχύουν ακούσια τις προκαταλήψεις. Bασικός σκοπός της εργασίας αποτελεί η μελέτη και ανάλυση των διάφορων μορφών προκατάληψης που υπάρχουν στα συστήματα τεχνητής νοημοσύνης, συμπεριλαμβανομένων, των φυλετικών και των κοινωνικοοικονομικών προκαταλήψεων, μέσα από τον αλγοριθμικό σχεδιασμό.

Μεθοδολογικά, για να αξιολογηθεί το παραπάνω ζήτημα, το σύνολο δεδομένων που χρησιμοποιείται σε αυτή τη μελέτη προσφέρει μια μεγάλη ποικιλία αρχείων ποινικής δικαιοσύνης. Οι πληροφορίες που περιλαμβάνονται σε αυτό το σύνολο δεδομένων είναι ποικίλες, περιλαμβάνοντας δημογραφικά στοιχεία, δεδομένα τοποθεσίας και ιδιαιτερότητες παραβάσεων. Οι δημοσίως διαθέσιμες αναφορές εγκλημάτων συνδυάστηκαν με δημόσια αρχεία από τις υπηρεσίες επιβολής του νόμου και τις δικαστικές βάσεις δεδομένων που αποτελούν τις κύριες πηγές για τη δημιουργία αυτού του συνόλου δεδομένων. Από τα αποτελέσματα της έρευνας φάνηκε πως η ολοκληρωμένη αξιολόγησή του μοντέλου σε διαφορετικές γεωγραφικές περιοχές και φυλετικές ομάδες έδειξε συνεπή και υψηλή απόδοση. Η ανάλυση, η οποία περιλάμβανε λεπτομερείς πίνακες σύγχυσης και μετρήσεις ακρίβειας για το Τέξας και την Καλιφόρνια, επιβεβαίωσε ότι το μοντέλο δεν παρουσιάζει καμία σημαντική προκατάληψη. Αυτό το εύρημα είναι καθησυχαστικό καθώς δείχνει ότι το μοντέλο είναι καλά ισορροπημένο και αξιόπιστο, με αποτελεσματική απόδοση σε διάφορα σύνολα δεδομένων.

Artificial Intelligence (AI) is now pervasive in modern life, influencing everything from the creation of autonomous vehicles to recommendation systems that help us make choices. Bias in AI can take many different forms, although it is more common to see racial and socioeconomic biases. Concerns about racial bias in artificial intelligence systems are well documented. Decisions made by algorithms based on past data may inadvertently reinforce racial bias. The main purpose of the work is the study and analysis of the various forms of bias that exist in artificial intelligence systems, including racial and socioeconomic biases, through algorithmic design.

Methodologically, to assess the above issue, the data set used in this study offers a wide variety of criminal justice records. The information included in this data set is varied, including demographics, location data and offense specifics. Publicly available crime reports were combined with public records from law enforcement agencies and court databases that are the primary sources for creating this data set.
The results of the research showed that the comprehensive evaluation of the model in different geographical areas and racial groups showed a consistent and high performance. The analysis, which included detailed confusion matrices and accuracy measures for Texas and California, confirmed that the model does not exhibit any significant bias. This finding is reassuring as it shows that the model is well balanced and reliable, performing effectively on various datasets.