Inhoud
- Een dief vangen. . .
- Geen bugs, geen stress - Uw stapsgewijze handleiding voor het creëren van levensveranderende software zonder uw leven te vernietigen
- De verspreiding stoppen
Bron: Mast3r / Dreamstime.com
Afhaal:
Onderzoekers wenden zich tot AI om nepnieuws te bestrijden. Maar kan het echt helpen, of maakt het het alleen maar erger?
Verwacht wordt dat nepnieuws een grote doorn zal zijn in de zijde van de komende presidentsverkiezingen, om nog maar te zwijgen over het algehele corrosieve effect ervan op ons publieke debat in het algemeen. In de verbonden samenleving van vandaag is het onderscheiden van fictie steeds moeilijker geworden, en daarom beginnen sommige onderzoekers zich te concentreren op de kracht van kunstmatige intelligentie om dit probleem aan te pakken.
De hoop is natuurlijk dat machines, of beter gezegd algoritmen, beter zijn dan mensen om leugens te ontdekken. Maar is dit een realistische verwachting, of gewoon een ander geval van het gooien van technologie naar een schijnbaar onhandelbaar probleem?
Een dief vangen. . .
Een van de manieren waarop datawetenschappers van plan zijn om het inzicht van AI op dit gebied te verbeteren, is door het nepnieuws te laten genereren. Het Allen Institute voor AI aan de Universiteit van Washington heeft Grover ontwikkeld en publiekelijk vrijgegeven, een engine voor natuurlijke taalverwerking die is ontworpen om valse verhalen te maken over een breed scala aan onderwerpen. Hoewel dit in het begin contraproductief lijkt, is dit in feite een vrij algemene AI-trainingstactiek waarbij de ene machine de output van een andere analyseert. Op deze manier kan de analysezijde veel sneller op snelheid worden gebracht dan te vertrouwen op echt nepnieuws. Het instituut beweert dat Grover al kan werken met een nauwkeurigheid van 92%, maar het is belangrijk op te merken dat het alleen bedreven is in het onderscheiden van AI-gegenereerde inhoud versus door mensen gegenereerde inhoud, wat betekent dat een slimme persoon nog steeds een vals verhaal kan sluipen ervoorbij. (Kijk voor meer informatie op The Technologies Around Fighting Fake News.)
In de juiste handen kan Grover natuurlijk snel ons begrip vergroten van hoe nepnieuws wordt gemaakt en hoe het zich verspreidt, en dit kan in theorie worden gebruikt om het in de echte wereld te dwarsbomen. Maar zoals Futurism.com onlangs opmerkte, zijn sommige experts die het systeem voor een testrun hebben genomen, verontrust over hoe effectief het is om geloofwaardige leugens te creëren en zelfs de schrijfstijl van legitieme nieuwsbronnen zoals de Wall Street Journal en de New York na te bootsen Keer.
Maar omdat liegen een inherent intuïtieve en emotiegedreven daad is, is het mogelijk dat zelfs de slimste machines, die nog steeds worden aangedreven door koude, harde logica, ooit het niveau van conisch begrip kunnen bereiken dat nodig is om een leugen te herkennen? Maria Almeida van Unbabel merkte onlangs op dat hoewel sommige iteraties hier behoorlijk goed in worden, geen enkel algoritme kan hopen volledig menselijk begrip te bereiken. Dit betekent dat AI mogelijk dramatische verbeteringen kan aanbrengen in feitencontrole en vergelijkende analyse, maar de laatste beslissing wordt het best overgelaten aan getrainde experts.
Ironisch genoeg zal deze mogelijkheid echter het meest nuttig zijn bij het detecteren van de diepe nepvideo's die de rondes beginnen te maken op sociale media. Met AI dat in staat is om visuele gegevens tot op individuele pixels te analyseren, zal het veel beter in staat zijn om gewijzigde afbeeldingen te spotten dan gewijzigde woorden en concepten.
Toch, beweert Forbes 'Charles Towers-Clark, is het centrale probleem met nepnieuws niet dat een paar mensen het creëren, maar dat zoveel mensen erdoor worden beïnvloed. Mensen hebben de neiging te geloven wat ze willen geloven, niet wat de feiten hen doen geloven. Dus zelfs als een hoog ontwikkelde AI-motor verklaart dat hun overtuiging verkeerd is, zullen mensen eerder aan de machine twijfelen dan zijzelf.
"Implementatie van machine learning om de verspreiding van nepnieuws te bestrijden is bewonderenswaardig," zegt hij, "en er is een noodzaak om dit probleem aan te pakken, omdat de betrouwbaarheid van belangrijke nieuwsmedia in twijfel wordt getrokken. Maar met de verspreiding van verkeerde informatie verergerd door sociale media, kan het detecteren en onthullen van de bronnen van nepnieuws het menselijke instinct overwinnen om te geloven wat ons wordt verteld? '
Geen bugs, geen stress - Uw stapsgewijze handleiding voor het creëren van levensveranderende software zonder uw leven te vernietigen
U kunt uw programmeervaardigheden niet verbeteren als niemand om softwarekwaliteit geeft.
De echte uitdaging is dan ook niet om nepnieuws te identificeren en te ontkrachten, maar om te begrijpen waarom het zich zo veel sneller verspreidt via sociale media dan echt nieuws. Voor een deel is dit te wijten aan de aard van nepnieuws zelf, dat vaak opwindend en heilzaam is in vergelijking met de vergelijkende verveling van de realiteit. Is het tenslotte realistisch om van technologie te verwachten dat dit in wezen een niet-technisch probleem corrigeert? (Zie 5 AI Advances in Publishing and Media voor meer informatie over hoe AI media verandert.)
De verspreiding stoppen
Daarom is het belangrijk om AI te concentreren op het technische aspect van nepnieuws, niet op het menselijke aspect, zegt Robin Harris van ZDNet. En inderdaad, de meeste onderzoekers trainen AI om zich bezig te houden met zaken als het onderscheid maken tussen natuurlijke en kunstmatige propagatiepatronen via sociale netwerken. Belangrijke statistieken zoals conversieboomtarieven, retweet-timing en algemene responsgegevens kunnen worden gebruikt om desinformatiecampagnes te identificeren en te neutraliseren, zelfs als de bron ervan verborgen is onder lagen van digitale uitvlucht. Tegelijkertijd kan AI worden gebruikt om andere technologieën te beheren, zoals blockchain, om traceerbare, verifieerbare informatiekanalen te onderhouden.
Feit is dat nepnieuws geen nieuw fenomeen is. Van de muckraking journalistiek van de vroege 20th eeuw helemaal terug naar de propaganda van de vroegste beschavingen, is het misdenken van het publiek een aloude traditie voor zowel zittende regeringen als revolutionairen. Het verschil vandaag is dat digitale technologie deze mogelijkheid zodanig heeft gedemocratiseerd dat bijna iedereen een leugen kan plaatsen en deze binnen enkele uren over de wereld kan zien verspreiden.
Technologieën zoals AI kunnen zeker helpen om enige duidelijkheid te brengen in deze verwarring, maar alleen mensen kunnen de waarheid volledig begrijpen en beoordelen.