Samráð fyrirhugað 01.03.2021—15.03.2021
Til umsagnar 01.03.2021—15.03.2021
Niðurstöður í vinnslu frá 15.03.2021
Niðurstöður birtar 19.03.2021

Stefna um gervigreind

Mál nr. 64/2021 Birt: 01.03.2021 Síðast uppfært: 19.03.2021
  • Forsætisráðuneytið
  • Drög að stefnu
  • Málefnasvið:
  • Æðsta stjórnsýsla
  • Nýsköpun, rannsóknir og þekkingargreinar
  • Fjölmiðlun
  • Leikskólar, grunnskólar, starfsnám og stjórnsýsla mennta- og menningarmála
  • Framhaldsskólastig
  • Háskólastig
  • Lýðheilsa og stjórnsýsla velferðarmála
  • Réttindi einstaklinga, trúmál og stjórnsýsla dómsmála
  • Vinnumarkaður og atvinnuleysi
  • Samgöngu- og fjarskiptamál
  • Umhverfismál

Niðurstöður birtar

Nefnd um ritun stefnu Íslands um gervigreind þakkar umsagnaraðilum kærlega fyrir mikilvæg innlegg og þátttöku. Umsagnir verða teknar til umfjöllunar af nefndinni og verður stuðst við þær við áframhaldandi útfærslu stefnu Íslands um gervigreind

Ferill máls

Málið var opið til umsagnar í gáttinni á tímabilinu 01.03.2021–15.03.2021. Umsagnir voru birtar jafnóðum og þær bárust. Skoða umsagnir. Unnið var úr þeim ábendingum og athugasemdum sem bárust og niðurstöður samráðsins birtar 19.03.2021.

Málsefni

Nú er í vinnslu stefna Íslands um gervigreind. Lýðræðislegar reglur verða að ráða því hvernig gervigreind er notuð og tryggja verður öllum jafnan rétt til að móta þjóðfélag framtíðarinnar. Með það að leiðarljósi eru hér settar fram til samráðs þær grundvallarspurningar sem stefna Íslands um gervigreind mun fást við og jafnframt fyrstu hugmyndar um upplegg og áherslu stefnunnar.

Lýðræðislegar reglur verða að ráða því hvernig gervigreind er notuð og tryggja verður öllum jafnan rétt til að móta þjóðfélag framtíðarinnar. Með það að leiðarljósi vill nefnd um ritun stefnu Íslands um gervigreind beina eftirfarandi spurningum til umsagnaraðila til íhugunar:

1. Hvaða gildi á íslenskt samfélag að hafa að leiðarljósi við innleiðingu nýrrar tækni gervigreindar?

2. Hvert á hlutverk tækni gervigreindar að vera í íslensku samfélagi?

3. Á hvaða vettvangi ætti Ísland að ræða og leysa álitamál sem upp munu koma varðandi innleiðingu og notkun nýrrar gervigreindartækni?

4. Hvað þarf til svo að íslenskt atvinnulíf geti að fullu nýtt tækni gervigreindar?

Að auki eru hér birtar fyrstu hugmyndar nefndarinnar um upplegg stefnunnar. Áhersla er lögð á að hér er um vinnuskjal á fyrstu stigum að ræða sem með öllu er opið fyrir hugmyndum og breytingum.

Megin áhersla þessarar stefnu er samfélagslega hliðin á tækni gervigreindar. Auk þess er leitast við að draga fram þær stoðir sem helst þarf að styrkja svo unnt verði að hámarka þann samfélagslega og efnahagslegan ábata sem af þróun, innleiðingu og notkun gervigreindar hlýst. Allt er þetta sett fram í samhengi við þá stefnumótunarvinnu sem þegar hefur farið fram um ýmis málefni tengd gervigreind og ber þar helst að nefna skýrslu og aðgerðaáætlun um Ísland og fjórðu iðnbyltinguna, Nýsköpunarlandið Ísland, áherslur og verkefni Stafræns Íslands og stefnu Vísinda- og tækniráðs.

Óskað er eftir viðbrögðum, hugmyndum og almennri endurgjöf á drög nefndarinnar að uppleggi stefnu Íslands um gervigreind.

Innsendar umsagnir

Afrita slóð á umsögn

#1 Úlfhildur Dagsdóttir - 01.03.2021

Góðan dag,

Ég hef skrifað bók þar sem þessi málefni eru tekin fyrir. Hún heitir Sæborgin : stefnumót líkama og tækni í ævintýri og veruleika og kom út árið 2011. Hafa nefndarmeðlimir kynnt sér það rit? Allavega hefur ekki verið leitað til minnar sérfræðiþekkingar á þessu sviði, sem gefur til kynna að ekki hafi verið lögð mikil vinna í að kynna sér skrif íslensks fræðifólks, þrátt fyrir yfirlýsingar um að fjölmargir sérfræðingar hafi verið kallaðir til samráðs við nefndina.

Með kveðju

Úlfhildur Dagsdóttir

Afrita slóð á umsögn

#2 Albert Svan Sigurðsson - 08.03.2021

1. Hvaða gildi á íslenskt samfélag að hafa að leiðarljósi við innleiðingu nýrrar tækni gervigreindar?

Öryggi fólks, sjálfbærni, lýðræði, gagnsæi og sjálfsákvörðunarrétt einstaklinga, auk reglubundins endurmats á innihaldi þessara gilda.

2. Hvert á hlutverk tækni gervigreindar að vera í íslensku samfélagi?

Gervigreind ætti að auðvelda fólki lífið, leysa erfið verkefni bæði í félagslegu umhverfi t.d. á heimilum og hjá þjónustuaðilum, en einnig að auka við sjálfbæra framleiðslu, fæðuöryggi landsbúa, opinbert eftirlit og viðhaldi tæknilegra grunninnviða samfélagsins eins og mögulegt er á hverjum tíma.

3. Á hvaða vettvangi ætti Ísland að ræða og leysa álitamál sem upp munu koma varðandi

innleiðingu og notkun nýrrar gervigreindartækni?

Hugræn álitamál má leysa hjá Vísindasiðanefnd eða sambærilegu miðlægu valdi ásamt ráðgefandi áliti frá almenningi með lýðræðislegum leiðum, en tæknileg, hugbúnaðar og höfundaréttamál fyrir dómstólum.

4. Hvað þarf til svo að íslenskt atvinnulíf geti að fullu nýtt tækni gervigreindar?

Það þarf að frelsa landsbúa undan ofurvaldi fjármálastofnana og geðþóttavaldi hins opinbera, þannig að völdin séu hjá fólkinu. Til þess þarf bæði gagnsæi, bætt lýðræði og nokkrar úrbætur í efnahagskerfinu. Einnig þarf opinbera hvatastyrki/samkeppnisstyrki til að hvetja bæði einstaklinga og lögaðila til dáða í grunnrannsóknum, hönnun og innleiðingu gervigreindar í sínu umhverfi.

Afrita slóð á umsögn

#3 Auður Guðjónsdóttir - 09.03.2021

Tillaga / hugmynd um að Ísland geri taugakerfinu hátt undir höfði í nýrri gervigreindarstefnu.

Röksemdir:

Í seinni tíð hafa íslensk stjórnvöld og félagið Mænuskaðastofnun Íslands unnið að því í sameiningu að vekja athygli viðeigandi alþjóðastofnanna á nauðsyn þess að hrint verði af stokkunum alþjóðlegu átaki í þágu lækninga á mænuskaða (lömun) og öðrum meinum í taugakerfinu. Það hefur meðal annars leitt til þess að Ráðherranefnd Norðurlandaráðs hefur gert mænuskaða að einu forgangsmála sinna. Í því felst að mænuskaði er flokkaður með öðrum sjúkdómum og sköðum á Norðurlöndum sem þarfnast hátæknimeðferðar og sérstakrar athygli. Ásamt þessu hefur nefndin sett á fót samnorræna skráningu á meðferð við mænuskaða undir forystu St. Olavs sjúkrahússins í Þrándheimi, Noregi. www.isci.is

Árið 2015 náði María Mjöll Jónsdóttir núverandi skrifstofustjóri í utanríkisráðuneytinu og samstarfsfólk hennar í fastanefnd Íslands í New York röskunum í taugakerfinu „ Neurological disorders „ inn í kafla 26 í stefnuyfirlýsingu Sameinuðu þjóðanna áranna 2015-30. Kaflinn fjallar um á hvaða sjúkdómsflokkum heimurinn skuli taka sérstaklega á tímabilinu.

To promote physical and mental health and well-being, and to extend life expectancy

for all, we must achieve universal health coverage and access to quality health care.

No one must be left behind. We commit to accelerating the progress made to date

in reducing newborn, child and maternal mortality by ending all such preventable

deaths before 2030. We are committed to ensuring universal access to sexual and

reproductive health-care services, including for family planning, information and education.

We will equally accelerate the pace of progress made in fighting malaria,

HIV/AIDS, tuberculosis, hepatitis, Ebola and other communicable diseases and

epidemics, including by addressing growing anti-microbial resistance and the problem

of unattended diseases affecting 7 developing countries. We are committed to the

prevention and treatment of non-communicable diseases, including

behavioural, developmental and neurological disorders, which constitute a major

challenge for sustainable development.

Í kjölfar þessa vakti Guðlaugur Þór Þórðarson utanríkisráðherra athygli tveggja forseta Allsherjarþings Sameinuðu þjóðanna á málinu ásamt því að vekja athygli þingsins á málinu í ræðum sínum ytra. Einnig setti ráðherrann á fót starf sérstaks erindreka Íslands um mænuskaða og taugakerfið hjá WHO. Ráðherra fundaði með Tetros Ghebreyesus framkvæmdastjóra WHO og hvatti til að lækning á mænuskaða og á öðrum meinum í taugakerfinu yrði sérstaklega tekið fyrir hjá WHO og var gervigreind rædd í því sambandi. Sá árangur varð af fundi þeirra að í skýrslu framkvæmdastjórans A 73/5 12. maí 2020 kemur fram að mein í taugakerfinu, það með talinn mænuskaði, séu byrði á heimsbyggðinni.

Global burden

Neurological disorders are conditions of the central and peripheral nervous system that

include epilepsy, headache disorders, neurodegenerative disorders, cerebrovascular

diseases including stroke, neuroinfectious/neuroimmunological disorder,neuro-

developmental disorders and traumatic brain ans spinal cord injuries.

Í sömu skýrslu framkvæmdastjórans hvetur hann til að leitað verði allra leiða til að finna megi lækningu í taugakerfinu eins og sjá má hér:

fostering strategic approaches to research on neurological disorders increasing

the attention given to brain health and neurological disorders in national and global

research agendas; using artificial intelligence, precision medicine and other novel

technologies to consolidate fragmented research results and identify new treatment

options with potential to cure more neurological disorders.“

Nú hefur WHO sett á fót „the Brain Health Unit“ sem hefur það hlutverk að vinna að framgangi þess sem fram kemur í ofangreindri skýrslu framkvæmdastjóra WHO varðandi taugakerfið og hefur utanríkisráðherra Íslands lagt fram fé til starfsseminnar.

Eins og sést hér að framan hefur mikil vinna verið lögð í það frá Íslands hendi að vekja athygli á mænuskaða/taugakerfi á alþjóðavísu og mjög hefur verið hvatt til að horft verði til lækningar á lömun en ekki einungis til forvarna og endurhæfingar. Í því sambandi má einnig sjá á www.isci.is bréf Auðar Guðjónsdóttur stjórnarformanns Mænuskaðastofnunar Íslands og Lilju D. Alfreðsdóttur mennta og vísindamálaráðherra til háttsettra aðila innan WHO ásamt ræðu Önnu Lilju Gunnarsdóttur sérstaks erindreka Íslands hjá WHO um mænuskaða og taugakerfið.

Það er fátt erfiðara en að breyta viðhorfi. Með miklu harðfylgi hefur okkur sem stöndum að hinu svokallaða mænuskaðamáli tekist að opna augu háttsetts fólks innan WHO, innan Sameinuðu þjóðanna og innan Norðurlandaráðs um nauðsyn þess að lækning í taugakerfinu verði tekin föstum tökum. Það yrði því ómetanlegt fyrir áframhald þeirrar vinnu ef Ísland gerði taugakerfinu hátt undir höfði í gervigreindarstefnu sinni og legði í framhaldinu út í það stórvirki að nýta gervigreind til að greina og samkeyra gagnabanka á alþjóðlegu taugavísindasviði. Byrjað skyldi á gagnabönkum um mænuskaða og í framhaldinu gagnabanka annarra meina í taugakerfinu. Markmiðið væri að finna sameiginlegt munstur í innihaldi bankanna og sjá stóru rannsóknarmynd taugakerfisins í samhengi. Það mundi auka skilning læknavísindanna á hvernig taugakerfið virkar og færa þau nær lækningu við lömun og öðrum meinum í taugakerfinu svo sem í heila.

Ein helsta ástæða þess hve erfiðlega gengur að lækna taugkerfið er sú að læknavísindin hafa ekki fullan skilning á hvernig hið flókna kerfi starfar. Samkvæmt tölum frá WHO líður um milljarður manna á heimsvísu vegna skaða og meina í taugakerfinu og má þar nefna migreni, mænu og heilaskaða, Alzheimer, geðsjúkdóma, flogaveiki, Parkinson, MS og MND. Samkvæmt WHO eru alvarlegar raskanir á starfssemi taugakerfisins helstu orsakir fötlunar í veröldinni.

Afrita slóð á umsögn

#4 Persónuvernd - 12.03.2021

Sjá umsögn Persónuverndar í viðhengi.

Viðhengi
Afrita slóð á umsögn

#5 Sigríður Þorgeirsdóttir - 15.03.2021

Ein grunnstoð stefnu um gervigreind varðar menntamál. Það er brýnt eins og segir í drögum að stefnunni að það sé aukið vægi og tenging við gervigreind og tækni á öllum stigum menntakerfisins. Nemendur þurfa frá unga aldri að kynnast þessari tækni sem mun bæta margt og skapa nýja möguleika, en sem margir óttast að geti engu að síður farið fram úr getu manna á mörgum sviðum og leitt til þess að vitvélar muni ráða ferðinni. Það er nú þegar ljóst að algoritmar stýra upplýsingaflæði á net- og samfélagsmiðlun. Hinir nýju ólígarkar sem eiga þessa miðla hafa þannig áhrif mótun viðhorfa á samfélagsmiðlum og stuðla að pólaríseringu í samfélögum. Þróun gervigreindar kallar þess vegna á að skóla- og menntakerfið ræki lýðræðisuppeldi með tilliti til vaxandi áhrifa gervigreindar og holskeflu upplýsinga á netinu. Kennarar sjá að nemendur eiga æ erfiðara að vita hvað þeim „finnst“ sjálfum og því er enn brýnna en áður að styrkja sjálfstæði nemenda í hugsun.

Í Háskóla Íslands er alþjóðlegt rannsóknarverkefni um líkamlega gagnrýna hugsun (www.ect.hi.is). Þetta verkefni hefur getið af sér þjálfunarprógramm í líkamlegri gagnrýninni hugsun fyrir framhaldsnema á háskólastigi og rannsakendur (styrkt af Erasmus+, sjá www.trainingect.com). Þjálfunin er leidd af heimspekingum, sérfræðingum í vitsmunavísindum, gervigreindarfræðingum, tölvunarfræðingum, hönnuðum, mannfræðingum o.fl. frá fimm evrópskum háskólum. Þjálfun líkamlegrar gagnrýninnar hugsunar byggir á niðurstöðum rannsókna vitsmunavísinda og taugafyrirbærafræða um samspil vitsmuna, tilfinninga og umhverfis. Háskóli Íslands hefur leitt saman leiðandi fræðafólk og rannsóknastofnanir í að þróa aðferðafræði skapandi og gagnrýninnar hugsunar. Meðal samstarfsaðila eru Tölvunarfræðideild ETH Zürich (eins hæst metna háskóla heims) sem leitaði til verkefnisins til þess að innleiða þjálfun í líkamlegri gagnrýninni hugsun fyrir nemendur sína í tölvunarfræði og vélhugsun. Eins og segir um aðkomu tölvunarfræðideildarinnar á heimasíðu TECT, þá er brýnt að nemendur sem læra tölvu- og vélhugsun séu einnig þjálfaðir í líkamlegri gagnrýninni hugsun til þess að vinna gegn því að mannleg hugsun lúti í lægra haldi fyrir netverkum tölvuvæðingar. Fulltrúar annars samstarfsháskóla við gervigreindardeild Háskólans í Groeningen í TECT vinna að því að kanna gagnrýna hugsun í senn með 3. persónu aðferðum taugavísinda og tölvulíkana og 1. persónu aðferðum upplifunar gagnrýninnar hugsunar. Samstarf HÍ og LHÍ í þessu verkefni miðar að því tefla saman skapandi og gagnrýninni hugsun sem nýtist í senn fyrir fræðilegt og listrænt nám.

Fyrir hönd TECT viljum við koma upplýsingum um þessar rannsóknir á framfæri við höfunda stefnumótunar um gervigreind ef ske kynni að við gætum verið til ráðagerða um tengsl gervigreindar og menntunar gagnrýninnar hugsunar í þágu lýðræðis.

Björn Þorsteinsson, prófessor í heimspeki, Háskóla Íslands

Elsa Haraldsdóttir, verkefnisstjóri TECT, Háskóla Íslands

Guðbjörg R. Jóhannesdóttir, lektor í listkennslu, Listaháskóla Íslands

Katrín Ólína Pétursdóttir, deildarforseti hönnunardeildar, Listaháskóla Íslands

Sigríður Þorgeirsdóttir, prófessor í heimspeki, Háskóla Íslands

Afrita slóð á umsögn

#6 Landssamtökin Þroskahjálp - 15.03.2021

Meðfylgjandi er umsögn Landssamtakanna Þroskahjálpar um stefnu stjórnvalda um gervigreind.

Viðhengi
Afrita slóð á umsögn

#7 Vitvélastofnun Íslands ses - 15.03.2021

Sjá viðhengi.

Viðhengi
Afrita slóð á umsögn

#8 VR - 15.03.2021

Sjá umsögn VR í viðhengi.

Viðhengi
Afrita slóð á umsögn

#9 Alþýðusamband Íslands - 15.03.2021

Viðhengd er umsögn Alþýðusambands Íslands

Viðhengi
Afrita slóð á umsögn

#10 Samtök atvinnulífsins - 15.03.2021

Góðan dag,

Meðfylgjandi er umsögn SA, SI, SVÞ, Samorku, SFF, SAF og SFS um málið.

kv.

f.h. SA

Heiðrún Björk Gísladóttir

Viðhengi
Afrita slóð á umsögn

#11 Verkfræðingafélag Íslands - 15.03.2021

Meðfylgjandi er umsögn Verkfræðingafélags Íslands.

Viðhengi
Afrita slóð á umsögn

#12 Skákgreind ehf. - 15.03.2021

Heil og sæl,

Meðfylgjandi er umsögn Skákgreindar ehf., hátæknisprota sem nýtir gervigreind fyrir einstaklingsmiðaða þjálfun. Okkar markmið er að gera öllum þjóðfélagsþegnum kleyft að takast á við áskoranir tengdar tækniframförum í leik og starfi.

f.h. Skákgreindar,

Héðinn Steingrímsson

Viðhengi
Afrita slóð á umsögn

#13 Embætti Landlæknis - 19.03.2021

Viðhengi