Jesyon algoritmik: èske yon algoritm ka evalye pèfòmans ou?

Jesyon algoritmik, ki se itilizasyon sistèm IA pou siveye, bay nòt epi dirije anplwaye yo, otorize nan Peyi Ba yo, men sèlman nan limit byen presi. Yon algoritm ka sipòte yon evalyasyon pèfòmans; li ka pa sèl baz pou yon desizyon ki gen yon efè enpòtan sou ou, tankou revokasyon, degradasyon oswa refi yon bonis, paske atik 22 nan GDPR a rezève desizyon sa yo pou yon moun ki vrèman egzamine yo. Anplis de sa, Lwa sou IA Inyon Ewopeyen an klase sistèm yo itilize pou siveye ak evalye travayè yo kòm sistèm ki gen gwo risk, epi li entèdi nèt itilizasyon IA pou dedwi emosyon anplwaye yo nan espas travay la.

Ki sa jesyon algoritmik ye vreman

Jesyon algoritmik se sitiyasyon kote lojisyèl, olye de yon sipèvizè, se li ki obsève, mezire epi souvan jije. Li parèt nan depo ak sant distribisyon, nan sant kontak kliyan, nan travay platfòm, epi de pli zan pli nan wòl biwo òdinè kote zouti pwodiktivite entegre nan sistèm moun yo deja itilize yo. Patwon an pa bezwen achte yon pwodwi yo rele yon manadjè IA pou kesyon legal yo leve; yon tablodbò ki bay anplwaye yo nòt sou done yo kolekte otomatikman sifi.

Sa yon sistèm konsa fè byen se konte. Li anrejistre travay ki fini, tan pou jere, tan pou reponn, respè pou yon script, lè ki konekte nan yon aplikasyon. Sa li pa ka fè se konprann poukisa yon kantite moun chanje. Yon anplwaye ki gen yon diminisyon nan pwodiksyon paske li te pase twa semèn ap fòme yon nouvo kòlèg, paske li t ap okipe yon sèl kliyan pèsonn lòt pa t ka jere, oswa paske travay la nan peryòd sa a te etranjman konplèks, sanble menm jan nan done yo ak yon anplwaye ki tou senpleman te fè mwens. Diferans sa a ant mezi ak siyifikasyon an se sous prèske tout dispit legal nan domèn sa a.

Pwen an se pa ke mezire pèfòmans se ilegal. Patwon yo gen dwa konnen kijan travay la ap mache, epi siveyans rezonab se yon pati nòmal nan jesyon yon biznis. Pwen an se ke lalwa Olandè ak Ewopeyen an mete kondisyon sou fason mezi a fèt, epi sitou, sou fason rezilta li yo itilize.

Kijan sistèm sa yo evalye pèfòmans ou

Konprann mekanik yo enpòtan, paske dwa ou yo tache ak etap espesifik nan pwosesis la. An jeneral, twa bagay rive: done yo kolekte, yon modèl transfòme done sa yo an yon jijman, epi yon moun oswa yon bagay aji sou li.

Sa sistèm nan kolekte

Koleksyon an anjeneral envizib e kontinyèl. Nan yon anviwònman kontak kliyan, sistèm nan ka anrejistre kantite kontak ki trete, tan mwayèn pou trete kòmand, premye rezolisyon an, tan inaktif ant apèl yo, ak respè pou senaryo ki preskri a. Li ka ale pi lwen epi analize kontni: tretman lang natirèl aplike nan transkripsyon imèl ak apèl, deteksyon mo kle, ak nòt santiman bò kliyan an nan konvèsasyon an. Nan lojistik, se pral to eskanè ak vitès ranmase kòmand; nan travay biwo, aktivite nan zouti kolaborasyon.

Chak nan pwen done sa yo se done pèsonèl sou ou, epi yo chak dwe jistifye. Anba GDPR a, yon anplwayè pa ka kolekte tout sa yon sistèm kapab kolekte; tretman an dwe nesesè pou yon objektif espesifik epi pwopòsyonèl avèk li. Yon sistèm ki anrejistre klavye oswa ki pran ekran peryodik pou etabli ki moun k ap travay di trè difisil pou defann kòm pwopòsyonèl, epi Autoriteit Persoonsgegevens (Otorite Pwoteksyon Done Olandè) te toujou kritike kalite siveyans jeneral sa a.

Soti nan règ rive nan modèl, ak bwat nwa a

Sistèm ki pi senp yo baze sou règ. Si tan mwayèn pou jere dosye a depase yon sèten papòt plis pase yon sèten kantite fwa nan yon semèn, anplwaye a ap resevwa yon siyal. Yon sistèm konsa rijid epi li pa pran an kont kontèks la, men li gen yon gwo avantaj: ou ka li règ la epi wè egzakteman poukisa yo te ba w siyal la, sa ki fè li posib pou diskite sou li.

Modèl aprantisaj otomatik yo fonksyone yon fason diferan. Yo antrene yo sou done istorik sou ki moun ki te byen pèfòme ak ki moun ki pa t byen pèfòme, epi yo dedwi modèl ki korele ak rezilta sa yo. Sa a pi puisan e li mwens transparan. Modèl la ka apiye sou yon bagay ki pa gen okenn relasyon defansab ak pèfòmans ditou, e pafwa ni anplwayè a ni founisè a pa ka di egzakteman poukisa yon nòt patikilye te soti jan li te soti a.

Opasite sa a se sa yo rele pwoblèm bwat nwa a, epi nan yon kontèks legal li fatal olye ke li jis deranje. Yon anplwayè ki pa ka eksplike baz yon evalyasyon pa ka konfòme li avèk devwa pou bay enfòmasyon enpòtan sou lojik ki enplike a, li pa ka defann evalyasyon an byen si yo konteste li, epi li pa ka demontre ke li pa gen efè diskriminatwa. An pratik, si ou pa ka eksplike li, ou pa ka konte sou li.

Sa GDPR a egzije pou yon sistèm pèfòmans IA

GDPR a se premye enstriman ki pi pratik nan domèn sa a, epi li toujou pi pratik la, paske li aplike pou chak anplwayè ki trete done anplwaye yo epi li gen plizyè ane depi l ap aplike. Kat nan règleman li yo fè pi fò nan travay la.

Atik 22: pa gen okenn desizyon enpòtan ki soti nan machin sèlman

Atik 22 nan GDPR a bay chak moun dwa pou yo pa sibi yon desizyon ki baze sèlman sou tretman otomatik, tankou pwofilaj, ki pwodui efè legal konsènan yo oswa ki afekte yo yon fason siyifikatif menm jan an. Revokasyon, non-renouvèlman yon kontra, degradasyon, kenbe yon bonis ak refi yon pwomosyon tout tonbe byen anba deskripsyon sa a.

De mo pote pwa a. Sèlman sa vle di ke yon èt imen ki senpleman konfime sa sistèm nan pwopoze a pa retire desizyon an nan atik 22 a; otorite sipèvizyon yo te byen presize pandan plizyè ane ke apwobasyon pa vle di patisipasyon imen. Yon patisipasyon enpòtan mande yon evalyatè ki gen otorite pou rive nan yon konklizyon diferan, konpetans pou evalye ka a, epi tan pou fè sa. Mo "afekte anpil" la gen yon lis laj, epi li pa mande yon konsekans legal fòmèl: yon sistèm nòt ki detèmine ki orè oswa ki plasman yo ofri w ka afekte w ase anpil pou w angaje w nan atik la.

Kote atik 22 a aplike, patwon-an dwe an tout ka bay garanti li preskri yo: dwa pou jwenn entèvansyon imen, pou eksprime pwen de vi ou epi pou konteste desizyon an.

Transparans, aksè ak lojik ki enplike a

Anplwaye yo dwe enfòme, anvan tout bagay, ke sistèm nan egziste ak sa li fè. Lè gen yon pran desizyon otomatik nan sans atik 22 a, anplwayè a dwe bay enfòmasyon enpòtan tou sou lojik ki enplike a ak sou enpòtans ak konsekans prevwa tretman an. Ou ka mande menm enfòmasyon an apre sa atravè yon demann aksè, ki ba ou dwa tou pou jwenn yon kopi done pèsonèl ou yo k ap trete: nòt yo, mezi ki kache yo ak kategori sistèm nan ba ou yo.

Sa ki enpòtan deja deside sou sibstans olye de fòmalite. Se pa yon deskripsyon teknoloji a; se yon eksplikasyon sou ki faktè yo te itilize ak kijan yo te peze, mete nan yon fason moun ki konsène a ka konprann epi aji sou li.

Baz legal, konsantman ak DPIA a

Chak operasyon tretman bezwen yon baz legal. Nan kontèks travay la, konsantman raman itil, jisteman akòz depandans ki genyen ant anplwayè ak anplwaye: konsantman ki pa ka refize san konsekans pa bay lib. Se poutèt sa, anplwayè yo jeneralman konte sou nesesite tretman an pou ekzekisyon kontra travay la, sou yon obligasyon legal, oswa sou yon enterè lejitim, e dènye a mande yon balans dokimante ant enterè ki pouswiv la ak vi prive anplwaye yo.

Piske siveyans pèfòmans sou echèl sa a enplike evalyasyon sistematik ak apwofondi moun ki baze sou pwosesis otomatik, yon evalyasyon enpak sou pwoteksyon done pa opsyonèl. Li obligatwa anvan sistèm nan antre an fonksyon, epi li dwe dekri pwosesis la, jistifye nesesite ak pwopòsyonalite li, idantifye risk pou anplwaye yo, epi etabli mezi ki adrese yo. Patwon ki sote evalyasyon an anjeneral dekouvri pwoblèm yo pita, nan yon diskisyon, lè chwa yo pa ka korije an silans ankò.

Jis nan ki pwen yon anplwayè ka ale nan siveyans?

Yo pa ka separe nòt pèfòmans ak siveyans ki nouri li a, epi siveyans lan gen pwòp limit li yo. Yon anplwaye pa abandone lavi prive li devan pòt biwo li: Lakou Ewopeyen Dwa Moun nan te deside nan ka Barbulescu kont Woumani ke siveyans kominikasyon yon anplwaye angaje dwa pou respè lavi prive ak korespondans anba atik 8 Konvansyon an, epi yon anplwayè dwe te enfòme anplwaye a davans sou nati ak limit siveyans lan, li dwe pouswiv yon objektif lejitim, epi li dwe chwazi mwayen ki mwens anmèdan ki kapab reyalize li. Siveyans an kachèt sou mendèv la se eksepsyonèl epi li mande yon sispèk konkrè, yon dire limite ak yon evalyasyon dokimante ke okenn mezi ki pi lejè pa ta fè.

Lè nou tradui l an yon pwojè jesyon algoritmik, sa vle di anplwayè a dwe kapab reponn twa kesyon sou chak kouran done: poukisa done sa yo nesesè pou objektif yo te prevwa a, poukisa yon mezi ki mwens antrave pa t ap pèmèt yo rive la, epi si yo te di anplwaye yo davans. Anrejistreman ekran kontinyèl, anrejistreman klavye ak swiv lokalizasyon deyò lè travay pa reponn kesyon sa yo nan pifò anviwònman travay òdinè.

Done absans, maladi ak kategori espesyal

Gen yon kategori ki merite yon prekosyon patikilye. Done ki revele sante se done kategori espesyal anba GDPR la epi an prensip yo pa ka trete ditou, sof si gen kèk ti eksepsyon. Règleman Olandè yo sou absans maladi yo strik: yon anplwayè ka anrejistre ke yon anplwaye absan epi pou konbyen tan, men nati maladi a, dyagnostik la ak limit yo se responsablite bedrijfsarts (doktè konpayi an), pa responsablite anplwayè a. Yon sistèm pèfòmans ki dedwi yon kondisyon sante apati modèl absans, vitès tape, poz oswa ton vwa ap trete done sante pa dediksyon, epi lefèt ke pèsonn pa t tape yon dyagnostik ladan l pa fè okenn diferans.

Menm prekosyon an aplike pou sistèm ki gen nòt ki afekte pa absans pwoteje tankou gwosès, konje paran oswa konje pou pran swen moun. Si modèl la trete peryòd sa yo kòm pèfòmans ki pa bon, anplwayè a pa sèlman ap trete done sansib men li ap konvèti yon dwa legal an yon dezavantaj.

Nivo siperyè nan aplikasyon an

Vyolasyon prensip fondamantal yo, legalite tretman done yo ak dwa moun ki konsène yo tonbe nan nivo amann ki pi wo nan atik 83 GDPR la, kategori ki pi lou règleman an prevwa. Menm jan enpòtan pou pratik chak jou a, yon evalyasyon ki te fèt an vyolasyon règ sa yo difisil pou fye sou li nan yon litij sou travay: yon tribinal yo mande pou mete fen nan yon kontra travay sou baz move pèfòmans ap vle wè kijan yo te etabli move pèfòmans lan.

Sa Lwa sou IA a ajoute pou anplwayè ak travayè yo

Lwa Inyon Ewopeyen an sou Entèlijans Atifisyèl (IA) an vigè epi li aplike pa etap, kidonk kesyon an se pa si l ap vini ankò men kilès nan obligasyon li yo ki deja an vigè. De nan kouch li yo enpòtan isit la.

Premye a se lis pratik entèdi yo, ki te aplike depi premye faz Lwa a. Li gen ladan l yon règ ki vize dirèkteman espas travay la: Sistèm IA yo itilize pou dedwi emosyon yon moun natirèl nan domèn espas travay la ak enstitisyon edikasyon yo entèdi, sof si sistèm nan gen entansyon mete an plas oswa sou mache a pou rezon medikal oswa sekirite. Lojisyèl ki evalye atitid, nivo estrès, angajman oswa senserite anplwaye yo apati vwa yo, figi yo oswa ekri yo pa yon pwoblèm konfòmite pou jere. Li pa posib, epi eksepsyon medikal ak sekirite etwat la pa kouvri jesyon pwodiktivite. Remake limit la ak anpil atansyon: analiz santiman sou sa yon kliyan di se yon kesyon diferan de dedwi emosyon anplwaye a.

Dezyèm kouch la se rejim ki gen gwo risk la. Aneks III nan Lwa sou IA a deziyen kòm sistèm ki gen gwo risk, pami lòt bagay, sistèm IA ki fèt pou itilize pou pran desizyon ki afekte kondisyon relasyon travay, pwomosyon oswa fen relasyon sa yo, alokasyon travay ki baze sou konpòtman endividyèl oswa karakteristik pèsonèl, ak siveyans ak evalyasyon pèfòmans ak konpòtman travayè yo. Yon zouti evalyasyon pèfòmans IA antre dirèkteman nan deskripsyon sa a. Anba pake omnibus dijital la, dat aplikasyon obligasyon ki gen gwo risk pou sistèm Aneks III yo te ranvwaye, pou anplwayè yo gen plis tan pou prepare; entèdiksyon yo, règ pou modèl IA jeneral yo ak devwa transparans atik 50 an deja aplike.

Gen yon obligasyon ki merite yon mansyon apa paske anplwayè yo souvan neglije li. Moun k ap deplwaye sistèm IA ki gen gwo risk yo dwe enfòme reprezantan travayè yo ak travayè ki afekte yo anvan yo mete yon sistèm IA ki gen gwo risk an sèvis nan espas travay la, an akò ak règleman ki aplikab yo sou enfòmasyon ak konsiltasyon. Sa a se yon devwa enfòmasyon ki mache ansanm ak, epi ki pa ranplase, obligasyon transparans GDPR yo ak dwa konsèy travay la anba lalwa Olandè a. Pou yon tretman pi konplè sou Lwa a ak kalandriye li, gade atik nou an sou aspè legal entèlijans atifisyèl ak Lwa Inyon Ewopeyen an sou IA.

Ki moun ki pote responsablite a: founisè a oswa anplwayè a?

Patwon yo souvan sipoze ke paske lojisyèl la te achte nan men yon founisè espesyalis, founisè a pote risk legal la. Se pa konsa okenn nan kad yo distribye responsablite.

Anba GDPR a, anplwayè a deside poukisa ak kijan done anplwaye yo trete, e pakonsekan li se kontwolè a. Founisè ki jere sistèm nan sou enstriksyon anplwayè a se yon moun ki trete done yo, epi relasyon an dwe etabli nan yon akò tretman, men se anplwayè a ki gen devwa transparans, legalite ak sipèvizyon imen anvè pwòp anplwaye li yo, epi se anplwayè a ki reponn devan Otoriteit Persoonsgegevens yo ak devan anplwaye yo menm.

Lwa sou IA a trase yon liy konparab ant founisè a, ki devlope yon sistèm IA epi mete l sou mache a, ak deplwayè a, ki itilize l anba pwòp otorite li. Yon anplwayè ki itilize yon zouti yo achte nòmalman se yon deplwayè epi li gen obligasyon deplwayè yo, tankou itilize sistèm nan an akò avèk enstriksyon yo, asire yon nivo sipèvizyon imen apwopriye pa moun ki gen konpetans ak otorite ki nesesè yo, kontwole fonksyònman li, epi enfòme travayè yo. Yon anplwayè ki mete pwòp non li sou sistèm nan, oswa ki modifye l anpil oswa ki chanje objektif li, ka vin yon founisè epi pran obligasyon ki pi lou ki mache ak wòl sa a.

Konsekans pratik la pou akizisyon se ke yo dwe li kontra a ak wòl sa yo nan tèt yo. Yon anplwayè bezwen founisè a bay enfòmasyon ki fè konfòmite posib, epi li ta dwe gen dout sou nenpòt pwodwi ki pa ka eksplike pwòp pwodiksyon li, paske devwa pou eksplike a ap tonbe sou anplwayè a kèlkeswa sa lisans lan di.

Travay sou platfòm: yon kouch règ anplis

Pou moun k ap travay sou platfòm travay dijital yo, yon lòt enstriman ap vini. Direktiv (Inyon Ewopeyen) 2024/2831 sou amelyorasyon kondisyon travay nan travay platfòm konsakre yon chapit konplè pou jesyon algoritmik. Li oblije platfòm yo enfòme travayè yo sou sistèm siveyans otomatik ak sistèm pou pran desizyon ki afekte anpil kondisyon travay yo, li mete restriksyon sou tretman sèten kategori done, tankou done sou eta emosyonèl ak sikolojik ak done sou konvèsasyon prive, li egzije sipèvizyon imen sou efè sistèm sa yo, epi li bay travayè yo dwa pou jwenn yon eksplikasyon sou desizyon enpòtan tankou restriksyon oswa sispansyon yon kont, epi pou yo egzamine yo yon moun tou. Li enpòtan pou note ke plizyè nan garanti sa yo aplike pou moun k ap fè travay platfòm kit yo kalifye kòm anplwaye kit yo pa kalifye.

Eta manm yo dwe transpoze direktiv la anvan 2 desanm 2026. Jiskaske lejislasyon aplikasyon nasyonal la antre an vigè, GDPR a ak Lwa sou IA a rete règ ki an vigè yo, epi egzijans yo deja kouvri anpil nan menm domèn nan.

Lwa travay Olandè a: yon algorithm pa ka mete fen nan kontra ou.

Règleman pwoteksyon done Ewopeyen yo ak règleman entèlijans atifisyèl yo gouvène kijan sistèm nan ka fonksyone. Lwa travay neyelandè a gouvène sa yon anplwayè ka fè ak rezilta li yo, epi li pi strik pase sa pifò pwojè jesyon algoritmik yo sipoze.

Yon anplwayè nan Peyi Ba yo pa ka tou senpleman mete fen nan yon kontra travay. Pou yon moun revoke yon travay, sa mande yon rezon valab ki nan lis nan atik 7:669 Kòd Sivil Peyi Ba a, epi li mande pèmisyon alavans UWV a oswa yon desizyon kantonrechter a (tribinal sou-distri a), selon rezon an. Move pèfòmans se youn nan rezon sa yo, epi se yon rezon ki mande anpil efò. Anplwayè a dwe montre ke anplwaye a pa apwopriye pou wòl la, ke yo te enfòme anplwaye a sou sa alè, epi ke yo te ofri l yon opòtinite reyèl pou amelyore, avèk sipò lè sa apwopriye. Yon lekti tablodbò se pa yon pwosesis amelyorasyon, epi yon tribinal ap mande sa ki te diskite, ki lè, ak ki èd yo te bay. Gid nou an sou lwa travay Peyi Ba a prezante kad revoke a an plis detay.

Lwa sou diskriminasyon an aplike sou rezilta a, pa sou entansyon an. Si yon sistèm dezavantaje anplwaye yo sou baz tankou sèks, ras, laj, relijyon, andikap oswa maladi kwonik, li ilegal anba Algemene wet gelijke behandeling (Lwa Jeneral sou Egalite Tretman) ak lwa espesifik sou egalite tretman sou laj ak andikap, kèlkeswa si yon moun te gen entansyon rezilta sa a. Done fòmasyon istorik yo se koupab abityèl la: yon modèl ki resevwa fòmasyon sou moun ki te jwenn pwomosyon nan tan lontan an pral repwodui preferans tan lontan yo. Sistèm ki mezire disponiblite brit oswa pwodiksyon sou tan yo gen tandans tou penalize anplwaye ki te pran konje paran, ki te travay mwens oswa ki te absan akòz maladi, epi penalize yon anplwaye pou egzèse yon dwa legal se jisteman sa lalwa sou egalite tretman entèdi.

Konsèy travay la dwe dakò

Nan yon konpayi kote gen yon komite travay, patwon-an bezwen plis pase yon bon entansyon. Atik 27 nan Wet op de ondernemingsraden (Lwa sou Konsèy Travay yo) egzije konsantman ondernemingsraad (komite travay la) pou adopsyon, modifikasyon oswa retrè aranjman tankou sa yo ki konsène evalyasyon anplwaye yo, tretman ak pwoteksyon done pèsonèl anplwaye yo, ak enstalasyon ki vize oswa ki apwopriye pou obsève oswa kontwole prezans, konduit oswa pèfòmans anplwaye yo. Yon sistèm pèfòmans IA angaje tout twa a an menm tan.

Konsantman isit la se pa yon fòmalite. Yon desizyon ki pran san konsantman ki nesesè a ka deklare anile pa konsèy travay la, epi yo ka anpeche patwon an aplike li. Pou anplwaye ki santi yo te enpoze yon sistèm sou yo, konsèy travay la souvan se wout ki pi rapid ak pi efikas pou chanje, byen anvan nenpòt moun panse a pwosè.

Sa tribinal yo deside jiskaprezan

Jirisprudans lan toujou ap devlope, men de jijman Olandè yo deja trase direksyon vwayaj la epi tou de yo site byen lwen pase Peyi Ba yo.

Jijman Uber ak Ola yo

Sou 4 avril 2023 Gerechtshof la Amsterdam (Amsterdam Lakou Apèl la) te pran yon desizyon nan yon seri ka chofè yo te depoze kont Uber ak Ola. Chofè yo te vle konnen poukisa yo te dezaktive kont yo e kijan yo te resevwa travay ak pri. Tribinal la te jwenn yon desizyon lajman an favè yo sou pwen enfòmasyon yo. Chofè ki te pèdi aksè nan platfòm nan, e avèk li revni yo, te afekte anpil pa desizyon otomatik yo, e konpayi yo pa t kapab pa bay yon eksplikasyon lè yo te montre sekrè komèsyal oswa risk manipilasyon san yo pa jistifye objeksyon sa a.

Sa tribinal la te mande a se te konkrè: pa yon deskripsyon jeneral sou teknoloji a, men enfòmasyon sou faktè yo itilize yo ak pwa yo ba yo, pou moun ki konsène a te ka konprann epi konteste rezilta a. Se estanda sa a anplwayè yo ta dwe sipoze aplike tou pou yon algorithm pèfòmans. Si repons ou a kesyon poukisa mwen te fè yon move nòt se ke modèl la te detèmine li, ou pa satisfè estanda a.

Jijman SyRI a

Dezyèm ka a pa t yon konfli nan domèn travay, men rezònman li rive jis nan espas travay la. Nan jijman li nan dat 5 fevriye 2020 (ECLI:NL:RBDHA:2020:865), Rechtbank Den Haag (Tribinal Distri La Haye) te deside ke lejislasyon ki sou baz SyRI a, yon sistèm endikasyon risk gouvènman an ki itilize pou detekte fwod benefis ak taks, pa t satisfè tès atik 8 Konvansyon Ewopeyen sou Dwa Moun nan. Sistèm nan pa t ase transparan e verifye: pèsonn deyò pa t ka etabli kijan yo te fè siyalize yon moun, sa ki te fè li enposib pou defann kont li.

Prensip la jeneral. Yon sistèm ke yo pa ka egzamine fonksyonman li pa ka konteste, epi yon desizyon ke yo pa ka konteste se pa yon desizyon ki jis. Yon anplwayè ki vle baze evalyasyon yo sou yon modèl ke ni anplwaye a ni anplwayè a pa ka eksplike ap bati sou menm baz ki te echwe nan ka sa a. Kesyon responsablite sa yo pou konduit otomatik ale pi lwen pase dwa travay sèlman, jan atik nou an sou IA ak dwa kriminèl montre.

Dwa ou si yon algorit ap ba ou nòt

Si y ap evalye w avèk èd yon sistèm IA, ou gen dwa konkrè ak aplikab, epi ou pa bezwen pwouve ke sistèm nan pa bon anvan ou ka itilize yo.

Ou ka mande ki done ki genyen sou ou epi jwenn yon kopi, tankou mezi ki sèvi pou evalyasyon an ak nòt yo sòti ladan yo. Ou ka mande enfòmasyon enpòtan sou lojik sistèm nan, faktè ki konte yo ak pwa yo. Lè yo pran yon desizyon ki gen yon efè siyifikatif pa mwayen otomatik, ou ka mande entèvansyon imen, bay pwòp pwen de vi pa ou, epi konteste desizyon an. Ou ka fè korije done ki pa kòrèk yo, ki pi enpòtan pase jan yo sanble: anpil nan sa sistèm sa yo anrejistre a tou senpleman pa kòrèk, soti nan absans ki mal anrejistre rive nan travay yo atribiye a move moun nan.

Kijan pou konteste yon evalyasyon otomatik nan pratik

Kòmanse pa dokimante pwòp pozisyon ou anvan ou soulve li. Note travay espesifik evalyasyon an pa pran an kont, peryòd kote sikonstans yo te dwòl, ak nenpòt absans, konje oswa reasiyasyon ki ta ka diminye chif yo pou rezon ki pa gen anyen pou wè ak pèfòmans ou. Nòt kontanporen yo vo pi plis pase yon rekonstriksyon sis mwa apre.

Apre sa, fè demann lan alekri bay patwon ou, pou di w ap egzèse dwa w anba GDPR la, pou mande done yo te itilize nan evalyasyon w lan ak pou w ba w eksplikasyon sou lojik la, epi pou mande yon revizyon imen pa yon moun ki gen otorite pou rive nan yon lòt konklizyon. Fikse yon delè rezonab; GDPR la egzije pou patwon an reponn nan yon delè yon mwa, ki ka pwolonje nan ka konplèks. Kenbe ton reyalite a, paske korespondans sa a gen tandans fini kòm prèv.

Si anplwayè a pa reponn byen, ou ka depoze yon plent bay Autoriteit Persoonsgegevens (Autoriteit Persoonsgegevens), epi ou ka pote dispit la devan tribinal yo. Lè evalyasyon an ap itilize pou sipòte yon revoke oswa yon chanjman nan kondisyon travay ou yo, wout anplwa a anjeneral pi efikas la epi li gen delè kout, kidonk pran konsèy byen bonè. Atik nou an sou konfidansyalite done anba GDPR a nan epòk IA ak gwo done yo eksplike kad fondamantal la.

Sa yon anplwayè ta dwe fè anvan li aktive sistèm nan

Pou anplwayè yo, konfòmite nan domèn sa a se sitou yon kesyon de sekans. Prèske tout pwoblèm grav rive paske yo te achte epi deplwaye yon sistèm an premye, epi kesyon legal yo te poze apre.

Kòmanse avèk objektif la. Ekri sa òganizasyon an ap eseye reyalize tout bon vre e ki desizyon sistèm nan pral enfliyanse, paske tout lòt bagay soti nan sa: done ki ka jistifye, baz legal la, evalyasyon risk la ak nivo sipèvizyon imen ki nesesè a. Yon sistèm yo achte pou amelyore planifikasyon epi answit yo itilize l an silans pou konstwi yon dosye pou revoke se wout klasik ki mennen nan yon operasyon tretman ilegal.

Fè evalyasyon enpak sou pwoteksyon done yo anvan deplwaman an, pa kòm yon dokiman ki pwodui pita pou jistifye yon desizyon ki deja pran, epi anrejistre rezilta a. Etabli epi dokimante baz legal la, pandan w ap sonje ke konsantman anplwaye a raman valab. Detèmine si sistèm nan tonbe nan kategori ki gen gwo risk nan Lwa sou Entèlijans Atifisyèl la epi, si se sa, trase yon tablo obligasyon ki tache ak yon moun k ap deplwate sistèm nan, tankou devwa pou enfòme reprezantan travayè yo ak travayè ki konsène yo. Jwenn konsantman konsèy travay la kote atik 27 nan Lwa sou Konsèy Travay yo aplike, epi enplike li ase bonè pou kontribisyon li ka chanje yon bagay.

Apre sa, desine sipèvizyon atik 22 a egzije a, epi teste si li reyèl. Mande ki moun ki revize rezilta a, si moun sa a ka pase sou li san li pa oblije jistifye devyasyon an bay yon siperyè, si yo gen kontèks pou jije, epi si yo gen tan. Si repons onèt la se ke evalyatè a trete san ka pa apremidi, òganizasyon an pa gen sipèvizyon imen; li gen yon siyati.

Finalman, teste rezilta yo olye de entansyon yo. Odite rezilta sistèm nan pa karakteristik pwoteje ak pa modèl travay, epi gade espesyalman anplwaye ki travay a tan pasyèl, ki te pran konje oswa ki te malad. Bay anplwaye yo yon chemen klè pou yo kesyone yon evalyasyon epi anrejistre sa k rive ak defi sa yo. Kenbe dokiman yo, paske se responsablite anplwayè a pou demontre konfòmite a, epi nan yon dispit, dosye a se defans lan.

Ki kote sa kite ou

Jesyon algoritmik pa entèdi, epi li pa pral disparèt. Sa lalwa fè se trase yon liy ant mezi ak jijman. Sistèm yo ka konte, konpare epi bay siyal; moun yo dwe deside, eksplike epi pran responsablite. Anplwaye yo gen dwa konnen ke sistèm sa a ap evalye yo, pou yo konprann sa li mezire, epi pou yon moun egzamine ankò nenpòt desizyon ki afekte yo yon fason materyèl. Patwon ki aksepte divizyon travay sa a ka itilize zouti sa yo avèk konfyans. Moun ki kite tablodbò a deside ap jwenn ke ni Autoriteit Persoonsgegevens ni kantonrechter pa aksepte rezilta a kòm yon ranplasman pou yon evalyasyon apwopriye.

Law & More konseye anplwayè yo sou deplwaman IA nan jesyon pèfòmans, soti nan evalyasyon enpak la ak pwosedi komite travay la rive nan konsepsyon sipèvizyon imen an, epi konseye anplwaye ki fè fas ak yon evalyasyon otomatik yo konsidere kòm enjis. Si y ap itilize yon algorithm pou jije travay ou oswa travay anplwaye ou yo, nou kontan revize pozisyon an avèk ou.

Kesyon komen sou evalyasyon pèfòmans IA