SkarpKun tekoäly päättää: kolme testiä vastuulliseen käyttöönottoon
Kolmen lyhyen kuuntelujakson sarja näyttää, miten tekoälyn eettiset ongelmat syntyvät tavallisissa käyttötilanteissa ja miten niitä voidaan ehkäistä. Rekrytointiesimerkki paljastaa piilevän vinouman, päätöstukitilanne testaa ihmisen todellista valtaa ja asiakaspalvelubotti havainnollistaa, miksi vastuu jatkuu käyttöönoton jälkeen.
The first lecture plays free — no account needed.
What you'll learn
- Kuuntelijat osaavat kuvata, miten aineisto, sijaismuuttujat ja käyttötilanne voivat yhdessä tuottaa ryhmille erilaisia lopputuloksia sekä miksi vaikutuksia on testattava erikseen.
- Kuuntelijat osaavat arvioida ihmisen valvonnan todellista vaikuttavuutta tarkistamalla, onko valvojalla riittävästi tietoa, aikaa, osaamista ja valtaa haastaa tekoälyn tulos.
- Kuuntelijat osaavat muodostaa vastuullisen käyttöönoton vähimmäissilmukan, jossa tuloksia seurataan, haittailmoitukset käsitellään, vastuut nimetään ja vaarallisesti käyttäytyvä järjestelmä voidaan korjata tai pysäyttää.
Prerequisites
- algoritmisen vinouman perusmekanismi
- käyttötilanteen vaikutus järjestelmän riskeihin
- ryhmäkohtaisten vaikutusten arviointi
- merkityksellisen ihmisen valvonnan ehdot
- selkeä vastuunjako
Course Content
3 modules · 20 min total
Kuka putoaa hakijajonosta? Näin vinouma piiloutuu rekrytointimalliin
Kuuntelijat osaavat kuvata, miten aineisto, sijaismuuttujat ja käyttötilanne voivat yhdessä tuottaa ryhmille erilaisia lopputuloksia sekä miksi vaikutuksia on testattava erikseen.
Ihminen mukana – mutta päättääkö hän todella?
Kuuntelijat osaavat arvioida ihmisen valvonnan todellista vaikuttavuutta tarkistamalla, onko valvojalla riittävästi tietoa, aikaa, osaamista ja valtaa haastaa tekoälyn tulos.
Julkaisu ei ole maaliviiva: mitä tehdään, kun botti alkaa keksiä sääntöjä?
Kuuntelijat osaavat muodostaa vastuullisen käyttöönoton vähimmäissilmukan, jossa tuloksia seurataan, haittailmoitukset käsitellään, vastuut nimetään ja vaarallisesti käyttäytyvä järjestelmä voidaan korjata tai pysäyttää.
Read the Textbook
Read every chapter for free, right here in your browser.
Hakijajono ei ole neutraali vain siksi, että se on laskettu
Kuvitellaan rekrytointimalli, joka antaa jokaiselle hakijalle pistemäärän ja nostaa korkeimmat hakijajonon alkuun. Malli voi näyttää tarkalta kokonaisuutena: se löytää usein hakijoita, jotka myöhemmin pärjäävät työssä. Silti se voi tuottaa eri ryhmille erilaisia lopputuloksia.
Tärkeä kysymys ei siis ole vain: kuinka usein malli osuu oikeaan? Kysymys on myös: kenen kohdalla se osuu, kenet se nostaa esiin ja kenet se jättää tarkastamatta?
Study Flashcards
Key concepts from this course as flashcard pairs.
Kuka putoaa hakijajonosta? Näin vinouma piiloutuu rekrytointimalliin
Historiallinen vinouma
Menneiden päätösten, mahdollisuuksien tai eriarvoisten käytäntöjen heijastuminen aineistoon ja mallin ennusteisiin.
Sijaismuuttuja
Muuttuja, joka voi välittää tietoa ryhmäeroista epäsuorasti, vaikka suora ryhmätieto olisi poistettu.
Ryhmäkohtainen suorituskyky
Mallin virheiden ja onnistumisten tarkastelu erikseen eri ryhmissä, ei vain koko aineiston keskiarvona.
Sosiotekninen järjestelmä
Kokonaisuus, jossa data, malli, ihmiset, työnkulut, organisaation tavoitteet ja käyttöympäristö vaikuttavat yhdessä.
Ihminen mukana – mutta päättääkö hän todella?
Automaatiovinouma
Taipumus luottaa tekoälyn ehdotukseen liikaa tai sivuuttaa oma ristiriitainen havainto.
Merkityksellinen ihmisen valvonta
Valvojalla on tiedot, aika, osaaminen ja todellinen mahdollisuus muuttaa tekoälyn tulosta.
Ohitusmekanismi
Menettely, jolla tekoälyn suositus voidaan perustellusti sivuuttaa tai korjata.
Muutoksenhakumekanismi
Reitti, jolla päätöksen kohde voi pyytää perusteluja ja ihmisen tekemää uutta arviota.
Julkaisu ei ole maaliviiva: mitä tehdään, kun botti alkaa keksiä sääntöjä?
Käytönaikainen seuranta
Ennalta sovittujen laatu-, korjaus- ja haittasignaalien jatkuvaa tarkastelua oikeassa käytössä.
Poikkeama
Havaittu vaarallinen, virheellinen tai sovitusta toiminnasta poikkeava tapahtuma, joka kirjataan ja tutkitaan.
Pysäytysehto
Ennalta määritelty raja ja toimintamalli, joka keskeyttää automaation tai rajaa sen käyttöä.
Turvallinen käytöstäpoisto
Hallittu alasajo, jossa käyttäjät, työnkulut, integraatiot ja tietojen säilytys käsitellään niin, ettei riski kasva.
More in Technology
See all →
Defending at Machine Speed: AI-Accelerated Vulnerability Management
Reading the EU Cloud and AI Development Act
Operationalizing the NIST AI RMF and Generative AI Profile in Practice
Google Cloud Associate Cloud Engineer: Complete Exam-Ready Masterclass
AWS Certified Cloud Practitioner (CLF-C02) Fast-Track Prep
