AI – hot och möjligheter. Magnus Carling (# 188)

”Det är en helt flock av vargar som kommer emot oss”. Den liknelsen gör Magnus Carling i detta avsnitt som handlar om artificiell intelligens och vår framtid tillsammans med den. Magnus jobbar som CISO på Stena AB. Allt handlar om säkerhet och vara med på att kontrollera nästa steg.

Om avsnittet:

Målgrupp: allmänhet, ledning, it-folk, företag, ledare, projektledare, management

Lär dig: AI, digitalisering, cybersäkerhet, verksamhetsutveckling, machine learning

Vi gasar på i digitaliseringen och vi har inte reflekterat på att kanske måste bromsa. När vi exponeras av chatbotar som blir rasister och deep fake som används i propaganda så är detta bara början. Många vet inte hur detta kommer att påverka det vi gör dagligen.

Cybersäkerhet ”one to one” bör kanske införas i skolan och vi behöver snart en ”god AI” för att rädda oss från en ”ond AI”. Vi har idag robotar som forskar på att utrota covid. Kommer denna forskning att slå fel och forska fram ett nytt virus som är värre? Offensiva cyberkrigare finns redan och autonoma vapen finns. Hur reglerar vi etik och kanske vi behöver bromsa utveckling. Magnus ställer sig frågan om vi ska ha en AI som kan bestämma vem som ska anställas och avskedas.

Vi bör skapa en medvetenhet och prata om dessa hot och möjligheter. Säkerhet bör komma högre upp på alla verksamheters agenda. Organisationer ska börja dela kunskap och information mellan varandra. EU AI Act är ett av de första förordningarna som kan reglera AI.

Lär dig att kontrollera risken och skena inte iväg för snabbt med AI tillämpningar. Detta är en styrelsefråga inom våra organisationer, det kräver utbildning och det är en kultur som vi måste skapa för att kontrollera framtiden.

Magnus Carling, Jonas Jaani (24:58)

Videoversion av avsnittet

https://youtu.be/7Oakpr_JugQ

Länkar / mer information:

AI Act – https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206

Magnus böcker. Bland annat nya boken ”Svart Storm” – https://www.magnuscarling.com/bocker/

Sahlgrenskas AI-arbete – https://www.sahlgrenska.se/forskning-utbildning-innovation/innovation/kompetenscentrum-ai/

Chattroboten Tay blev rasist – https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter

Kurzweil om singulariteten – https://futurism.com/kurzweil-claims-that-the-singularity-will-happen-by-2045 (Kurzweil är erkänd forskare och futurist som ägnat mycket forskning åt AI)

Stephen Hawking och fyra andra om riskerna med AI – https://time.com/3614349/artificial-intelligence-singularity-stephen-hawking-elon-musk/

Alla avsnitt av digitaliseringens podcast Effekten:

https://www.effekten.se/avsnitt

Vi finns där du hittar dina övriga poddar:

https://www.effekten.se/prenumerera/

Apple Podcasts:

https://itunes.apple.com/se/podcast/effekten-digitalisering-kunskap/id1171229363

Google Podcasts:

https://www.google.com/podcasts?feed=aHR0cHM6Ly93d3cuZWZmZWt0ZW4uc2UvZmVlZC9wb2RjYXN0Lw==

Acast:

https://www.acast.com/effekten

Spotify:

https://open.spotify.com/show/5Z49zvPOisoSwhwojtUoCm https://open.spotify.com/show/5Z49zvPOisoSwhwojtUoCm