Amazon Alexa onthult nieuwe technologie die stemmen kan nabootsen, inclusief de doden

Tijdelijke aanduiding terwijl artikelacties worden geladen

gestut bovenop een nachtkastje tafel tijdens de Amazon tech-top van deze week, werd een Echo Dot gevraagd om een ​​taak te voltooien: “Alexa, kan oma klaar zijn met het voorlezen van mij ‘The Tovenaar van Oz’?”

Alexa’s typisch vrolijke stem galmde uit de slimme luidspreker met kinderthema en een panda-ontwerp: “Oké!” Toen het apparaat een scène begon te vertellen van de Laffe Leeuw die om moed smeekte, werd Alexa’s robotgeluid vervangen door een meer menselijk klinkende verteller.

“In plaats van Alexa’s stem die het boek voorleest, is het de stem van de oma van het kind”, verklaarde Rohit Prasad, senior vice-president en hoofdwetenschapper van Alexa kunstmatige intelligentie, woensdag opgewonden tijdens een keynote speech in Las Vegas. (Amazon-oprichter Jeff Bezos is eigenaar van The Washington Post.)

De demo was de eerste glimp van de nieuwste functie van Alexa, die – hoewel nog in ontwikkeling – de stemassistent in staat zou stellen de stemmen van mensen te repliceren uit korte audioclips. Het doel, zei Prasad, is om meer vertrouwen bij gebruikers op te bouwen door kunstmatige intelligentie te injecteren met de ‘menselijke eigenschappen van empathie en affect’.

De nieuwe functie kan “maken” [loved ones’] herinneringen blijven,” zei Prasad. Maar hoewel het vooruitzicht om de stem van een overleden familielid te horen misschien hartverscheurend is, roept het ook een groot aantal veiligheids- en ethische zorgen op, aldus experts.

“Ik heb niet het gevoel dat onze wereld klaar is voor gebruiksvriendelijke technologie voor het klonen van spraak”, vertelde Rachel Tobac, chief executive van het in San Francisco gevestigde SocialProof Security, aan The Washington Post. Dergelijke technologie, voegde ze eraan toe, zou kunnen worden gebruikt om het publiek te manipuleren door middel van valse audio- of videoclips.

“Als een cybercrimineel gemakkelijk en geloofwaardig de stem van iemand anders kan repliceren met een klein stemvoorbeeld, kunnen ze dat stemvoorbeeld gebruiken om zich voor te doen als andere individuen”, voegt Tobac, een cyberbeveiligingsexpert, toe. “Die slechte acteur kan anderen dan laten geloven dat zij de persoon zijn die ze imiteren, wat kan leiden tot fraude, gegevensverlies, accountovername en meer.”

Dan bestaat het risico dat de scheidslijn tussen wat menselijk is en wat mechanisch is, vervaagt, zegt Tama Leaver, hoogleraar internetstudies aan de Curtin University in Australië.

“Je zult niet onthouden dat je met de diepten van Amazon praat… en zijn data-harvesting-services als het spreekt met je grootmoeder of de stem van je grootvader of die van een verloren geliefde.”

“In sommige opzichten is het net een aflevering van ‘Black Mirror’,” zei Leaver, verwijzend naar de sci-fi-serie die een toekomst met een technisch thema voor ogen heeft.

De Google-ingenieur die denkt dat de AI van het bedrijf tot leven is gekomen

De nieuwe Alexa-functie roept ook vragen op over toestemming, voegde Leaver eraan toe – vooral voor mensen die nooit hadden gedacht dat hun stem zou worden uitgeluisterd door een persoonlijke robotassistent nadat ze stierven.

“Er is een echt glibberig pad om de gegevens van overleden mensen te gebruiken op een manier die zowel griezelig is aan de ene kant, als diep onethisch aan de andere kant, omdat ze nooit hebben overwogen dat die sporen op die manier worden gebruikt,” zei Leaver.

Nadat hij onlangs zijn grootvader had verloren, zei Leaver dat hij empathie voelde voor de ‘verleiding’ om de stem van een geliefde te willen horen. Maar de mogelijkheid opent een sluisdeur van implicaties die de samenleving misschien niet op zich wil nemen, zei hij – bijvoorbeeld, wie heeft de rechten op de kleine fragmenten die mensen aan de ethers van het World Wide Web achterlaten?

“Als mijn grootvader me 100 berichten had gestuurd, zou ik dan het recht hebben om die in het systeem in te voeren? En als ik dat doe, wie is dan de eigenaar? Is Amazon dan eigenaar van die opname?” hij vroeg. “Heb ik de rechten op de stem van mijn grootvader opgegeven?”

Prasad ging niet in op dergelijke details tijdens de toespraak van woensdag. Hij stelde echter dat het vermogen om stemmen na te bootsen een product was van “ongetwijfeld leven in het gouden tijdperk van AI, waar onze dromen en sciencefiction werkelijkheid worden.”

Dit AI-model probeert de geest van Ruth Bader Ginsburg te herscheppen

Mocht de demo van Amazon een echte feature worden, zei Leaver dat mensen misschien moeten gaan nadenken over hoe hun stemmen en gelijkenis kunnen worden gebruikt als ze sterven.

“Moet ik in mijn testament bedenken dat ik moet zeggen: ‘Mijn stem en mijn picturale geschiedenis op sociale media is het eigendom van mijn kinderen, en zij kunnen beslissen of ze dat willen reanimeren in een chat met mij of niet? ‘ ’ vroeg Leaver zich af.

‘Dat is nu raar om te zeggen. Maar het is waarschijnlijk een vraag waar we een antwoord op moeten hebben voordat Alexa morgen begint te praten zoals ik,’ voegde hij eraan toe.

Leave a Comment