Inhoud
- Ontslagen door de machine
- Automatisering en taakverstoring
- Geen bugs, geen stress - Uw stapsgewijze handleiding voor het creëren van levensveranderende software zonder uw leven te vernietigen
- Toepassingen van consumentenelektronica
- Controle terugwinnen
- Hoe het zou kunnen werken
Bron: Artinspiring / Dreamstime.com
Afhaal:
Om automatisering te laten werken met en voor de mensheid in plaats van ertegen, hebben we veiligheidsmaatregelen en geïnformeerde mensen nodig die in staat zijn een systeemfout te stoppen of op te lossen.
"Vergissen is menselijk; om echt vieze dingen te maken, heb je een computer nodig. ”William E. Vaughan maakte deze opmerking in 1969. Controle geven aan een geautomatiseerd systeem brengt het systeem in gevaar en kan ernstige schade aanrichten voordat het wordt gecontroleerd.
Automatisering is niet nieuw, maar wordt steeds breder dankzij de integratie van digitale en fysieke systemen. Het voordeel van automatisering op schaal is een grote efficiëntie. Maar het nadeel van het vertrouwen op een set-it-and-forget-it-systeem is dat iemand het misschien niet goed instelt.
Met een systeem dat eenvoudig doorloopt zonder interventie en geen manier om de machine te stoppen, kunt u destructieve effecten hebben. Bijgevolg kan technologie het soort situatie creëren dat wordt afgebeeld in "The Sorcerer's Apprentice", wanneer het lijkt alsof het leven gemakkelijker wordt.
Ontslagen door de machine
Automatisering zonder tussenkomst is wat resulteerde in een technicus in het Verenigd Koninkrijk die vorig jaar zonder reden zonder baan kwam te zitten. Ibrahim Diallo merkte op dat zijn veiligheidskaarten niet op het werk werkten en ontdekte dat het kwam omdat hij werkloos was. "The Machine Fired Me" is de titel die hij gaf aan zijn uitgebreide blogpost over het evenement.
Uiteindelijk was de oorzaak van de beëindiging van Diallo niet een of andere vorm van algoritme die bepaalde wie moest worden geëlimineerd. Het probleem zat niet in het systeem, maar was er een van menselijke fouten. In dit geval was het allemaal de geautomatiseerde reactie op het falen van een mens om Diallo's informatie over contractverlenging in te voeren.
Het is niet zo dat de machine besloot dat hij voor iets in het bijzonder moest worden ontslagen. Het voerde eenvoudig de stappen uit die erin waren geprogrammeerd voor iemand wiens status bleek te zijn als niet meer in dienst. Zoals hij in de opmerkingen verduidelijkt, is dit niet echt AI, maar een "geautomatiseerd script". (Lees voor meer informatie over hoe AI in bedrijven kan helpen (in plaats van pijn te doen) wat AI voor de onderneming kan doen.)
Automatisering en taakverstoring
Dit soort effect is niet precies wat mensen voor ogen hebben bij het beschrijven van de prachtige voordelen die we kunnen verwachten in een geautomatiseerde toekomst. De gebruikelijke optimistische vooruitzichten voor een verschuiving van taken naarmate taken worden overgenomen door automatisering, taken worden opnieuw gedefinieerd - niet beëindigd door geautomatiseerde systemen. Maar de realiteit is dat sommige banen zullen worden geëlimineerd, en de mensen die ze hebben vastgehouden, zullen niet noodzakelijkerwijs een naadloze overgang naar de nieuwe carrière in een grotendeels geautomatiseerde industrie kunnen maken.
Banenverstoring is een van de minder belangrijke risico's die Elon Musk voor ogen had voor de opkomst van AI, hoewel zijn eigen visie op de impact op banen veel pessimistischer is dan die van Fitzgerald. Volgens Musk heeft AI strikte regelgeving nodig omdat het "een fundamenteel, existentieel risico voor de menselijke beschaving vormt".
Geen bugs, geen stress - Uw stapsgewijze handleiding voor het creëren van levensveranderende software zonder uw leven te vernietigen
Je kunt je programmeervaardigheden niet verbeteren als niemand om softwarekwaliteit geeft.
Toepassingen van consumentenelektronica
Ondanks Musk's eigen technische referenties, zeggen sommige experts in het veld, zoals Rodney Brooks, die de oprichter was van MIT's Computer Science and Artificial Intelligence Lab, en mede-oprichter van zowel iRobot als Rethink Robotics, dat Musk ongelijk heeft over die dreiging van AI en hoe robotica daadwerkelijk werken.
In een interview met TechCrunch gaf Brooks aan dat het dwaas is om regels op te roepen zonder de technologie te laten rijpen tot het punt waarop we precies kunnen identificeren wat moet worden gereguleerd. Hij daagde Musk uit: "Vertel me, welk gedrag wil je veranderen, Elon?"
Brooks gaf wel toe dat robots werkverplaatsing zullen veroorzaken. Maar hij denkt ook dat het mogelijk is om het paradigma in de industrie te verschuiven naar dat van consumentenelektronica.
De manier waarop hij het in het TechCrunch-interview plaatste, was: “We hebben een traditie in het vervaardigen van apparatuur dat het vreselijke gebruikersinterfaces heeft en het is moeilijk en u moet cursussen volgen, terwijl we in consumentenelektronica de machines die we gebruiken de mensen laten leren hoe ze te gebruiken. "
Dat is wat hij zei dat het doel zou moeten zijn om de manier te veranderen waarop we ons verhouden tot "industriële apparatuur en andere soorten apparatuur, om de machines de mensen te leren hoe ze ze moeten gebruiken."
Controle terugwinnen
Wat Brooks suggereert, kan ons wijzen in de richting van een oplossing voor het probleem van menselijke fouten die het geautomatiseerde proces in gang zetten dat uit de hand lijkt te lopen. Om terug te verwijzen naar Mickey's tegenslag in "The Sorcerer's Apprentice", komt het probleem allemaal voort uit de persoon die het systeem activeert, maar geen echte manier heeft om ermee te communiceren om het te laten stoppen of van richting te veranderen.
Maar als de interface wordt gemaakt langs de lijnen van consumentenelektronica in plaats van traditionele industriële modellen, kan het de controle letterlijk weer in handen van de mens brengen. Om echt effectief te zijn, moet de interface niet alleen toegankelijk zijn, maar ook ontworpen zijn om mensen op de hoogte te houden van wat er gebeurt, gegevens verstrekken over de updates die het heeft ontvangen en welke acties het heeft ondernomen.
Hoe het zou kunnen werken
In het geval van de onbedoelde beëindiging van Diallo zou dat betekenen dat het geautomatiseerde systeem hem niet alleen buiten het systeem zou vergrendelen en vervolgens aan zijn recruiter zou geven dat hij was beëindigd. Eerst wordt erkend dat de contractverlenging niet op de verwachte datum is ingevoerd. Alvorens te beginnen met beëindigingsacties, biedt het de manager en recruiter de update over het gebrek aan vernieuwing en de gevolgen die binnen de dag zouden volgen als er geen actie wordt ondernomen.
Dat soort waarschuwing zou mensen in staat stellen weloverwogen beslissingen te nemen om de automatisering door te laten gaan of om in te grijpen om de menselijke fout te herstellen die de oorspronkelijke oorzaak van het probleem was. Maar mensen moeten ook hun steentje bijdragen, reageren op de waarschuwing en de juiste actie ondernemen. Met andere woorden, het antwoord op de vraag die Brooks stelde over gedrag, is van toepassing op mensen; ze moeten minder passief zijn als het gaat om automatisering. (Zie Kanalen over het menselijke element: beleid, procedure en proces voor meer informatie over hoe mensen en machines kunnen samenwerken.)
Zoals Diallo in het commentaargedeelte van zijn blog schreef, was de reden dat het zover kon komen dat mensen weigerden tegen de machine te gaan:
Een ander ding dat over het hoofd wordt gezien, is dat hoewel iedereen wist dat het een menselijke fout was die het veroorzaakte en dat het puur een fout was, ze ervoor kozen om de s te volgen. Het lijkt op het plaatsen van een 'roken toegestaan'-bord in het ziekenhuis en mensen respecteren het bord in plaats van gezond verstand te gebruiken.
Dienovereenkomstig zijn het beleid dat we moeten nemen om automatisering te laten werken met en voor de mensheid in plaats van ertegen, tweeledig: aan de machinezijde hebben we interfaces nodig die toegankelijk en informatief zijn, en aan de menselijke kant moeten we mensen zijn die bevoegd om te identificeren wanneer iets niet klopt en in te grijpen om het recht te zetten.