»Att kunna avgöra om en person snackar skit eller inte är det viktigaste man kan lära sig«

2016 blev det en världsnyhet att två kinesiska forskare skapat en algoritm som upptäckte om någon var kriminell enbart utifrån utseendet. De hade matat en dator med dels slumpmässiga porträttbilder från nätet, dels foton från kriminalregistret, och utifrån dem hade datorn identifierat särskiljande anletsdrag. När algoritmen testades med nya bilder kunde den avgöra vem som var brottsling. Forskarna menade att den stora datamängden samt datorns objektivitet säkerställde forskningens trovärdighet, men saknade förklarande hypotes i övrigt.

Problemet: vi människor har en tendens att kapitulera inför »svarta lådor«, det vill säga sådant vi inte begriper oss på – i det här fallet en algoritm. En granskning av de bilder som datorn matats med visade att folk tenderar att le när de fotograferas – bortsett från när de haffats av polisen. Det var bara detta den påstått smarta algoritmen hade upptäckt.