Inhoud
Q:
Waarom zeggen sommige experts dat AI "digitale authenticiteit zal vernietigen"?
EEN:
Machine learning en kunstmatige intelligentie veranderen snel veel industrieën en veranderen de manier waarop we over technologische vooruitgang denken echt. Maar ze zijn ook betrokken bij een aantal interessante dichotomieën en tegenstrijdigheden over hoe we omgaan met onze computers en smartphones of andere nieuwe interfaces die toevallig langs komen.
Een van de grote vragen met kunstmatige intelligentie is hoe het "authenticiteit" zal beïnvloeden - of hoe mensen de realiteit die bestaat, in de "vleesruimte" of in de digitale wereld verifiëren en bevestigen. Als je echt ingaat op hoe dit werkt, zie je een inherente tegenstelling tussen de beperkingen van onze technologie en de manieren waarop we vertrouwen op de technologie waarover we beschikken.
Een van de beste voorbeelden is te vinden in een recent artikel in Wired dat laat zien hoe mensen met kunstmatige intelligentie en hulpmiddelen voor machinaal leren in staat zijn om een afbeelding van een bewegend paard te maken en zebrastrepen te superponeren in een proces dat de auteur "zebraficatie" noemt.
Het is netjes en nieuw, maar het kan ook een probleem vormen. Wanneer je een zebra op een digitaal scherm ziet, hoe weet je dan dat het een zebra is, en niet alleen een paard met zebrastrepen dat er slim op is gezet door een technisch onderlegde persoon?
Het lijkt misschien een theoretische vraag, maar dezelfde soort vragen zullen binnenkort van toepassing zijn op het nieuws dat we in digitale vorm krijgen - van politiek tot economie tot religie, alles gaat vertrouwen op ons vermogen om informatie te doorzoeken , om feit en fictie te controleren en te onderscheiden, tussen mythe en realiteit. Aangezien nieuwe hulpmiddelen voor kunstmatige intelligentie meer manieren bieden om beeld en video te manipuleren, wordt dit veel moeilijker.
Een ander uitstekend voorbeeld zijn nieuwe spraaktechnologieën. In een artikel een paar jaar geleden hebben we een ontluikend IT-project behandeld dat de stemmen van beroemde mensen heeft overgenomen en motoren voor spraakmodellen heeft gebouwd waarmee die beroemde mensen alles van buiten het graf konden zeggen.
Nogmaals, dit is nette en interessante technologie - het lijkt een leuke manier om spraakverwerkingstechnologieën te gebruiken. Maar het zal echt een probleem vormen wanneer we de sprong maken van oude analoge en ondoctorale digitale spraaktechnologie naar nieuwe synthetische en geprefabriceerde stem. Hoe weet je wie tegen je praat - aan de telefoon, op tv of recht in je oor?
In het bijzonder kan het idee om audio, beeld en video op geavanceerde manieren te veranderen, enkele van onze meest gewaardeerde ideeën als samenleving ten goede komen. Hoe zullen mensen vertrouwen op wat ze horen en zien in de politieke wereld? Hoe zit het met de wet - zullen degenen die van misdaden worden beschuldigd nieuwe soorten beroep aantekenen op basis van de mogelijke wijziging van bewijsmateriaal?
Een andere manier om enkele van deze problemen te begrijpen, is door te schrijven naar sciencefiction schrijven - van Ray Bradburys "Fahrenheit 451" tot George Orwells "1984" en verder, de verhalenvertellers van vorige eeuwen hebben ons herhaaldelijk gewaarschuwd dat technologie nuttig kan worden gebruikt en problematische doeleinden. Een reden waarom zoveel experts en hoofden van IT-bedrijven om “verklaarbare kunstmatige intelligentie” en ethische panels vragen, is dat ze het probleem begrijpen - dat als we technologieën niet grondig beheersen, we ze in geen enkele mate kunnen vertrouwen. In plaats van ons te helpen onze doelen te bereiken, kunnen ze ons uiteindelijk pijn doen, deels door het veroorzaken van de sociale chaos die bestaat wanneer we de waarheid en de realiteit niet echt onder controle kunnen krijgen. Een deel van het goede nieuws is echter dat technologieën zoals blockchain, die transactionele authenticatie bieden, kunnen helpen wanneer toegepast op digitale records.