Etinio Sprendimas logotipas Etinio Sprendimas Susisiekti
Susisiekti

Įtraukaus DI Kūrimo Praktikos: Žingsnis po Žingsnio

Konkretūs žingsniai, kaip sukurti dirbtinio intelekto sistemas, kurios nesukuria šališkų rezultatų ir veikia sąžiningai su visomis naudotojų grupėmis.

15 min Vidutinis lygis Birželis 2026
Žmonės skirtingų etninių grupių sėdi aplink stalo ir bendradarbiauja

Kodėl Šališkumas Pasirodo Dirbtinio Intelekto Sistemose

Dirbtinis intelektas sprendžia realias problemas, bet jis nėra neutralus. Jei jūsų mokymo duomenys turi šališkumą — o jie jį beveik visada turi — tada jūsų DI sistema tą šališkumą kartosis. Kartais net aštriau.

Čia ir prasideda. Šališkumas atsiranda ne todėl, kad kuri nors komanda nori diskriminuoti. Jis atsiranda dėl to, kaip renkami duomenys, kaip jie anotojami, kokios klaidos lieka nepastebytos. Tai sisteminis reikalas, ir dėl to jis sprendžiamas sistemingai.

01

Žingsnis 1: Apibrėžkite Jūsų Problemą ir Auditoriją

Prieš renkant bet kokius duomenis, turėtumėte žinoti, ką bandote išspręsti. Ir dar svarbiau — žinoti, kas to sprendimo bus paveikti.

Pvz., jei kuriate DI sistemą, kuri nusprendžia paskolos patvirtinimą, tada jūsų auditorija yra žmonės, kurie nori paskolos. Jei jūsų sistema labiau atmetinėja paskolos iš tam tikrų grupių, tai bus problema. Realus žmonių problema.

Susirinkite savo komandą ir atsakykite į šiuos klausimus:

  • Kas bus paveikti mūsų sistemos sprendimais?
  • Kurios grupės yra dažniau diskriminuojamos mūsų industrijos srityje?
  • Kokios duomenų kategorijos gali būti probleminės?
Komanda sėdi prie stalo ir aptaria projektą naudodama užrašus ir diagramas

Edukacinis Turtas

Šis straipsnis yra informacinis ir edukacinis. Jame aprašytos praktikos ir žingsniai pagal mokslinius tyrus ir geruosius praktinius standartus. Realūs diegimai gali reikalauti specialistų pagalbos. Jei diegisite DI sistemą, skaitykite atitinkamą reguliavimą jūsų šalyje.

Žmogus prie kompiuterio ekrano, analizuojantis duomenis ir lenteles
02

Žingsnis 2: Surinkite ir Analizuokite Duomenis Žaliuoju Žvilgsniu

Duomenys yra jūsų DI sistemos pagrindas. Jei duomenys šališki — sistema bus šališka. Nėra aplink to kelio.

Kai renkate duomenis, klausykite savęs: iš kur jie gaunami? Ar jie subalansuoti? Ar yra grupių, kurios nepakankamai atstovaujamos? Pvz., jei jūsų duomenyse yra 90 proc. vyrų ir 10 proc. moterų, o jūsų produktas turi darbą ir vyrams, ir moterims — tada jūsų mokymo duomenys nepadorūs.

Naudokite įrankius duomenims analizuoti. Apžvelgkite:

  • Kiek duomenų turite iš kiekvienos grupės?
  • Ar duomenų charakteristikos skiriasi tarp grupių?
  • Ar yra klaidingų žymų ar išduotų anotacijų?
03

Žingsnis 3: Testuokite Sistemą su Įvairiomis Grupėmis

Jūsų DI sistema gali gerai veikti su viena grupe, bet nepatenkinamai — su kita. Tai vadinama "grupės disparitetu" ir tai yra baisus dalykas, jei jūs to nematote.

Prieš jūsų sistemą iš viso paleisdami, testuokite jos veikimą atskirose demografinėse grupėse. Ar tikslumas yra 92 proc. vieniems, bet tik 78 proc. kitiems? Tada turite problemą.

Naudokite standartines metrikas:

  • Precision — iš visų teigiamų prognozių, kiek jų buvo teisingos?
  • Recall — iš visų faktinių teigiamų atvejų, kiek jų sistema rado?
  • F1 Score — balansas tarp precision ir recall.

Jei matote didelį skirtumą tarp grupių — negrąžinkite sistemos į gamybą. Grąžinkite į žiniatinklio naudą.

Lentelės ir grafikai, kurie rodo duomenų analizę ir metrikas
Komanda skirtingos etninės kilmės žmonės dirba biure drauge
04

Žingsnis 4: Nustatykite Taisykles ir Ribas

Jei jūsų sistema padarytų žalą kokiai nors grupei — jei tikslumas nukrenta žemiau jūsų nustatytos ribos — sistema neturėtų naudoti šią prognozę. Taškas.

Tai vadinama "tiesioginių sprendimų ribomis". Jūs sakeate: "Jei mūsų sistemos pasitikėjimas šiuo sprendimu yra žemesnis nei 85 proc., mes jį nepriimame automatiškai." Arba: "Jei tikslumas yra žemiau 80 proc. tam tikrai grupei, reikalingas žmogaus peržiūrėjimas."

Tai nėra perfektiška. Bet tai gerai daug geriau nei leisti sisteminiam šališkumui veikti nežiūrint.

Etinio Sprendimo Redakcinė Komanda

Autorius

Etinio Sprendimo Redakcinė Komanda

Redakcinė Komanda

Parengta Etinio Sprendimo redakcinės komandos, skirtos suprantamiems ir praktiškoems gidams apie dirbtinio intelekto etiką. Mūsų tikslas — padaryti sudėtingus dalykus paprastais ir prieinamus visiems.

Sutraukus Viską Kartu

Šališkumas dirbtiniame intelekte nėra negrąžinamas. Jis nėra ir nemažinamas. Jis yra sistema — ir sistemai reikalingas sisteminis atsakas.

Šie keturi žingsniai — problemos apibrėžimas, duomenų analizė, testavimas su grupėmis ir ribų nustatymas — yra jūsų keturis greitesnės kelias į įtraukų DI. Nuo to negausite tobulos sistemos. Bet gausite sistemą, kuri yra sąžininga.

Ir tai yra tas, ką turėtume norėti.