Kuka valvoo valvojia?
-
Olen tuolla Twitterin puolella tämän tästä paasannut tekoälyn/älykkäisen logaritmien sudenkuopista. Suomessakin näiden suhteen on ollut melkoista vauhtisokeutta, eikä seurauksia olla aina mietitty.
Olen varoitellut mm. siitä että kun algoritmit ja tekoälyn hallitsemat systeemit ovat niin valtavia, että kukaan ihminen ei niitä yksin pysty kokonaisuutena käsittämään ja hallitsemaan, niin kuka vastaa ja miten niiden tekemistä ratkaisuista? Miten pidetään huoli että jokin SOTE-puolen ohjelmisto ei ala määräillä "eutanasiaa" ohjelmointivirheen seurauksena tai vähemmän raflaavasti määrää/ehdottaa vääriä toimia, mutta kukaan ei sitä huomaa, koska kukaan ei enää osaa sanoa mihin päätös perustuu.
Tämä on jo elävää elämää, lukekaapa hesarin tämänpäiväinen juttu
Opiskelija ei päässyt opinahjoon kun "Computer Says No".
”Emme pysty edes selittämään opiskelijoille miksi heidän arvosanansa ovat tippuneet niin paljon, koska emme itsekään tiedä, miten arvostelualgoritmi on toiminut”, kertoo Miihkinen.
Nurmi kertoo, että opiskelijat voivat pyytää, että IB-organisaatio arvostelee uudelleen heidän lopputyönsä, mutta algoritmin kyseenalaistamisen perusteella valitusta ei voi tehdä.
Että näin, heja AI ja älykkäät logaritmit...
-
Juu luin tuon uutisen ja samalla kertaa sekä huvitti että kummastutti. Ei taida kukaan tietää miten tuo algoritmi toimii.
Sitten kun saadaan robokytät kaduille niin sitten voi olla ettei se olekkaan enää pelkästään BLM vaan ALM.
