Inhoud
Gepresenteerd door: AltaML
Q:
Waarom overwegen sommige bedrijven "menselijke feedbackcontroles" toe te voegen aan moderne AI-systemen?
EEN:
Sommige bedrijven die werken met de allernieuwste AI-technologie proberen menselijke controles voor deze systemen in te stellen, waardoor machine learning en deep learning-tools direct menselijk toezicht krijgen. Deze bedrijven zijn ook geen kleine spelers - Google's DeepMind en Elon Musk's OpenAI zijn twee voorbeelden van grote bedrijven die praktische kennis opdoen over kunstmatige intelligentie. Met dat in gedachten verschillen de resultaten - bijvoorbeeld, DeepMind is het onderwerp geweest van controverse vanwege de vermeende onwil om belangrijke gegevens aan het publiek te verstrekken, terwijl OpenAI veel meer is, nou ja, Open over zijn werk aan het beheersen van kunstmatige intelligentie.
Zelfs notabelen als Bill Gates hebben gewogen over de kwestie, Gates zegt dat hij een van de velen is die zich zorgen maken over de opkomst van een kunstmatige superintelligentie die op sommige manieren de menselijke controle te boven kan gaan. Musk van zijn kant heeft ook een alarmerende taal naar voren gebracht over de mogelijkheid van 'schurkenstaten'.
Dat is waarschijnlijk de meest dringende reden dat bedrijven werken om menselijke controles toe te passen op AI - het idee dat sommige technologische singulariteit zal resulteren in een superkrachtige gevoelige technologie die mensen gewoon niet meer kunnen controleren. Sinds het begin van menselijke ambities, hebben we tools ingesteld om ervoor te zorgen dat we de krachten die we uitoefenen kunnen beheersen - of het nu paarden met teugels en tuigen zijn, elektriciteit in geïsoleerde draden of een ander soort bedieningsmechanisme, met controle is een aangeboren menselijke functie en daarom is het volkomen logisch dat, naarmate kunstmatige intelligentie dichter bij echte functionaliteit komt, mensen hun eigen directe controles toepassen om die macht in toom te houden.
Angst voor superintelligente robots is echter niet de enige reden dat bedrijven menselijke controles toepassen op machine learning en AI-projecten. Een andere belangrijke reden is machine bias - dit is het idee dat kunstmatige intelligentiesystemen vaak beperkt zijn in de manier waarop ze de betreffende gegevens evalueren - zodat ze elke bias versterken die inherent is aan het systeem. De meeste professionals die zich bezighouden met machine learning, kunnen horrorverhalen vertellen over IT-systemen die menselijke gebruikersgroepen niet gelijk konden behandelen - of het nu geslacht of etnische ongelijkheid was, of een ander falen van het systeem om de nuances van onze menselijke samenlevingen echt te begrijpen en hoe we omgaan met mensen.
In zekere zin zouden we menselijke controles op systemen kunnen zetten omdat we bang zijn dat ze misschien te krachtig zijn - of anders, omdat we bang zijn dat ze misschien niet krachtig genoeg zijn. Menselijke bedieningselementen helpen bij het targeten van datasets van machine learning voor meer precisie. Ze helpen ideeën te versterken die de computer gewoon niet alleen kan leren, hetzij omdat het model niet verfijnd genoeg is, omdat AI niet ver genoeg is gevorderd, of omdat sommige dingen gewoon in de provincie van de menselijke cognitie liggen. Kunstmatige intelligentie is geweldig voor sommige dingen - bijvoorbeeld, een belonings- en score-gebaseerd systeem liet een kunstmatige intelligentie toe om een menselijke speler te verslaan bij het immens complexe bordspel "Go" - maar voor andere dingen is dit op stimulans gebaseerde systeem volstrekt onvoldoende.
Kortom, er zijn tal van dwingende redenen om menselijke gebruikers direct betrokken te houden bij hoe kunstmatige intelligentieprojecten werken. Zelfs de beste kunstmatige intelligentie-technologieën kunnen veel zelf nadenken - maar zonder een echt biologisch menselijk brein dat dingen zoals emoties en sociale mores kan verwerken, kunnen ze het grote geheel niet op een menselijke manier zien.
Een bekwaam machinaal leerbedrijf kan helpen dit evenwicht te vinden met een mix van zakelijke en materiedeskundigen en de ontwikkelaars van machine learning met de vaardigheden om grote zakelijke problemen op te lossen.
