Vi gör smarta algoritmer rasistiska och sexistiska

Tråden skapades och har fått 19 svar. Det senaste inlägget skrevs .
1

Rubriker som "Hur du gör för att undvika rasistiska algoritmer" blir allt vanligare, men kan en algoritm vara rasistisk och vad händer när vi flyttar ansvaret från oss själva till tekniken?

Läs hela artikeln här

Den inledande bilden kan jag inte återreproducera. Är det någon som kan det? När jag skriver ”black men are” så får jag inga sådana förslag. Jag har testat google.com på engelska och angivit USA som region. Jag får bara sådana förslag jag själv har skrivit in. Och, jo, denna är aktiverad:

Ursprungligen av Zeugma:

Den inledande bilden kan jag inte återreproducera. Är det någon som kan det? När jag skriver ”black men are” så får jag inga sådana förslag. Jag har testat google.com på engelska och angivit USA som region. Jag får bara sådana förslag jag själv har skrivit in. Och, jo, denna är aktiverad:

Efter mycket kritik från olika håll har Google ändrat detta. Förut när du gjorde bildsök på färgade personer dök även bilder på gorillor upp. Bilden är tagen från en kampanj som drevs när detta uppdagades.

Boken Algorithms of Oppression

The Verge om Googles bildsök

Ursprungligen av amandareventlid:

Efter mycket kritik från olika håll har Google ändrat detta. Förut när du gjorde bildsök på färgade personer dök även bilder på gorillor upp. Bilden är tagen från en kampanj som drevs när detta uppdagades.

Boken Algorithms of Oppression

The Verge om Googles bildsök

Apropå att gömma undan vissa bildsökbegrepp: Då blir det lite kul med reklamen på sidan.

Mer seriöst är det en intressant artikel och en väldigt intressant fråga. Jag blir fundersam över utvecklingen på många plan. Man kan styra över artificiell intelligens så att den inte blir ”dum” nog att vara rasistisk. Men på vilket sätt är den då egentligen ”intelligent”?

Ursprungligen av Zeugma:

Mer seriöst är det en intressant artikel och en väldigt intressant fråga. Jag blir fundersam över utvecklingen på många plan. Man kan styra över artificiell intelligens så att den inte blir ”dum” nog att vara rasistisk. Men på vilket sätt är den då egentligen ”intelligent”?

Menar du att det är viktigare att AI’n inte kränker någon, än att den säger rätt? (Fast tvärt om)

Ursprungligen av Sledde:

Menar du att det är viktigare att AI’n inte kränker någon, än att den säger rätt? (Fast tvärt om)

Frågan jag egentligen ställer är vad som kan eller ska betraktas som artificiell intelligens. Att döma av debatten får artificiell intelligens inte väcka anstöt. Om det i sig är intelligent eller inte har jag inga åsikter om. Men kan man uppnå artificiell intelligens om den hela tiden måste ledas in på rätt väg? Jag vill understryka att jag ställer frågor, jag har inga svar. Och jag menar ingenting. Fast frågor brukar ofta tolkas som insinuanta numera.

Ursprungligen av Zeugma:

Frågan jag egentligen ställer är vad som kan eller ska betraktas som artificiell intelligens. Att döma av debatten får artificiell intelligens inte väcka anstöt. Om det i sig är intelligent eller inte har jag inga åsikter om. Men kan man uppnå artificiell intelligens om den hela tiden måste ledas in på rätt väg? Jag vill understryka att jag ställer frågor, jag har inga svar. Och jag menar ingenting. Fast frågor brukar ofta tolkas som insinuanta numera.

Jag ville bara provocera lite lätt :-), för jag tror du är något på spåret i dina tankebanor. Samma fråga kan ju ställas till dagens debattklimat. Det spelar ingen roll hur underbyggd din fakta är, upplevs den kränkande eller inte ”PK”, så kommer ”man” att förneka den och smutskasta budbäraren. Här handlar det om att budbäraren är en AI, men jag tror inte det kommer spela någon roll vem som är budbärare, sålänge klimatet är att ingen någonsin ska behöva känna sig kränkt.

För att citera Jordan Peterson i klippet med Cathy Newman:
“Because in order to be able to think, you have to risk being offensive. I mean, look at the conversation we’re having right now. You’re certainly willing to risk offending me in the pursuit of truth. Why should you have the right to do that? It’s been rather uncomfortable.”

Länk till klippet för de som är intresserade:
https://youtu.be/aMcjxSThD54

Apropå artificiell intelligens kanske den i slutändan står närmare besläktad med en formaliserad kollektiv intelligens än vi hoppas på. Citat:
”It is assumed to be an unconscious, random, parallel, and distributed computational process, run in mathematical logic by the social structure.”

  • Medlem
  • International user
  • 2018-04-03 09:38
Ursprungligen av Zeugma:

Mer seriöst är det en intressant artikel och en väldigt intressant fråga. Jag blir fundersam över utvecklingen på många plan. Man kan styra över artificiell intelligens så att den inte blir ”dum” nog att vara rasistisk. Men på vilket sätt är den då egentligen ”intelligent”?

Det är den inte, och det finner du i ordet algoritm. Den är helt enkelt programerad. Folk är rädda att AI ska bli intelligentare än oss själva, men de har verkligen inte förstått varken AI eller skillnaden mellan AI och I. Ingen har ännu förstått hur I fungerar, men vi har skrapat på ytan och byggt modeller vi kallar AI.

Vi kallar AI för AI därför att man programerar den med data och olika regler eller algoritmer. En AI är alltså snabbare på att hitta mönster i stora mängder data än vad vi själva är. Men den är ändå programerad för att just hitta mönster som leder till de resultat vi vill ha. Ibland är både datan och resultaten vi söker dynamiska, men ofta är resutaten vi vill ha förutbestämda. Beror lite på vad man vill använda den såkallade AI'n till.

Men den är allt annat än intelligent.

  • Medlem
  • Karlskoga
  • 2018-04-05 07:07

Vad är intelligens då?
Går inte vår hjärna, och vårt beslutsfattande, efter algoritmer vi har fått nedärvda och/eller lärt oss genom uppfostran/skolan i unga år?
Det finns datorer som "lär" sej själva, testar olika saker och skapar egna algoritmer/lösningar beroende på resultatet av de testerna.
Jag tycker gränsen är väldigt flytande och oklar. Är djur intelligenta? I så fall vilka, var går gränsen?

  • Medlem
  • International user
  • 2018-04-05 09:36
Ursprungligen av kenjon:

Vad är intelligens då?
Går inte vår hjärna, och vårt beslutsfattande, efter algoritmer vi har fått nedärvda och/eller lärt oss genom uppfostran/skolan i unga år?
Det finns datorer som "lär" sej själva, testar olika saker och skapar egna algoritmer/lösningar beroende på resultatet av de testerna.
Jag tycker gränsen är väldigt flytande och oklar. Är djur intelligenta? I så fall vilka, var går gränsen?

Som sagt vi har ingen aning. Men för mig krävs att man måste kunna fantisera och kunna välja att agera på en fantasi. Ta som ett exempel, viljan att kunna flyga gjorde att vi byggde flygplan. Det kanske tog tusentals år av fantiserande men någon löste till sist hur.

Det är iaf ett krav på en intelligens enl. mig. Det att kunna gå från inget till något. Utan att det kräver att någon annan säger åt dig vad du ska göra eller hur du ska göra det.

Men vad gäller djur så ja även de har ett mått av intelligens men de har även något vi kallar instinkter, det har även vi människor. Foster som ännu inte är för stora tränar på att gå i en kvinnas mage. Vem sa åt dem att göra det? I magen så är ju det mest vettiga att simma. Det samma gäller att suga på tummen, ingen som helst nytta av det i magen.
Så ja även vi styrs av vissa instinkter. Men ju äldre vi blir ju mer hittar vi på själva vad vi ska göra.

Att då programera in vad eller hur till en AI, gör det inte till en intelligens, inte i min värld iaf, däremot är den som programerade den intelligent.

Ursprungligen av juanito:

Som sagt vi har ingen aning. Men för mig krävs att man måste kunna fantisera och kunna välja att agera på en fantasi. Ta som ett exempel, viljan att kunna flyga gjorde att vi byggde flygplan. Det kanske tog tusentals år av fantiserande men någon löste till sist hur.

Det är iaf ett krav på en intelligens enl. mig. Det att kunna gå från inget till något. Utan att det kräver att någon annan säger åt dig vad du ska göra eller hur du ska göra det.

Men vad gäller djur så ja även de har ett mått av intelligens men de har även något vi kallar instinkter, det har även vi människor. Foster som ännu inte är för stora tränar på att gå i en kvinnas mage. Vem sa åt dem att göra det? I magen så är ju det mest vettiga att simma. Det samma gäller att suga på tummen, ingen som helst nytta av det i magen.
Så ja även vi styrs av vissa instinkter. Men ju äldre vi blir ju mer hittar vi på själva vad vi ska göra.

Att då programera in vad eller hur till en AI, gör det inte till en intelligens, inte i min värld iaf, däremot är den som programerade den intelligent.

Jag tycker att du är inne på ett jättespännande ämne. Människor är ju nästan besatta av att särskilja sig och definiera vad som särskiljer oss från andra grupper. Innan tekniken utvecklades till vad den är idag var frågan ofta vad skiljer oss från djuren. Då var svaret att vi har förnuft, förmåga till rationellt tänkande och att skapa verktyg/använda dem över tid.

Men ju smartare tekniken blivit ju mer kan en dator göra precis det som särskiljde oss från djur. Vi måste hitta andra saker som särskiljer oss från maskiner och algoritmer och då betonar vi istället förmåga att känna och instinkter.

Går det att processa och existera i världen utan att påverkas av den, oavsett om det rör sig om en maskin/algoritm eller människa? Jag håller med om att det vi idag kallar artificiell intelligens inte är speciellt intelligent, snarare semidum/smart (beroende om man ser glaset som halvtomt eller halvfullt.

För mig blir det knasiga när vi sätter allt för stor tilltro till algoritmerna och tror att de inte påverkas av samhället för att de är befriade från känslor osv. I slutänden är det människor som är färgade av samhället som skapar algoritmerna med data från ett samhälle med strukturer, det är klart att detta påverkar vad vi skapar och hur det beter sig. Om man inte är medveten om detta kan det bli superknas.

  • Medlem
  • International user
  • 2018-04-05 15:45
Ursprungligen av amandareventlid:

...Men ju smartare tekniken blivit ju mer kan en dator göra precis det som särskiljde oss från djur. Vi måste hitta andra saker som särskiljer oss från maskiner och algoritmer och då betonar vi istället förmåga att känna och instinkter....

Jag kan se att en AI är full av instinkter. Instinkter är något som förenar oss alla, djur/människa/Ai. I övrigt kan jag hålla med dig. Instinkter är snarare att liknas vid just algoritmer.

Intelligens förenar enbart djur och människor än så länge, visserligen har vi instinkter/intelligens i olika mått. Men många djur har långt högre intelligens än vad vi vill tillskriva dem.

En algoritm är dock inte det som gör något intelligent, däremot är den som skapade algoritmen intelligent.

  • Medlem
  • Karlskoga
  • 2018-04-05 17:03

Nja, en algoritm kan ju självständigt skapa egna/andra algoritmer beroende på input från t ex sensorer. Detta kan då upplevas som intelligens. Så det slutar nog ändå i vad som ska definiera "intelligens".

  • Medlem
  • International user
  • 2018-04-06 00:05
Ursprungligen av kenjon:

Nja, en algoritm kan ju självständigt skapa egna/andra algoritmer beroende på input från t ex sensorer. Detta kan då upplevas som intelligens. Så det slutar nog ändå i vad som ska definiera "intelligens".

Fortfarande förprogramerad till att göra detta.

Senast redigerat 2018-04-06 14:02
  • Medlem
  • Karlskoga
  • 2018-04-07 16:43

Nja, programmerad till vad den ska göra, men inte hur den ska göra det. Det får den räkna ut själv. Och efter några generationer av uträkningar kan det bli rätt intressant.

  • Medlem
  • International user
  • 2018-04-08 22:00
Ursprungligen av kenjon:

Nja, programmerad till vad den ska göra, men inte hur den ska göra det. Det får den räkna ut själv. Och efter några generationer av uträkningar kan det bli rätt intressant.

Det där är mer en övertygelse än fakta, iaf i mina ögon.

Enkel beskrivning på hur ML fungerar: https://youtu.be/R9OHn5ZF4Uo

  • Medlem
  • Karlskoga
  • 2018-04-09 15:48

Den var lite kul!

1
Bevaka tråden