Google belooft 20 miljoen dollar om onderzoeken naar verantwoorde AI te financieren

Google belooft 20 miljoen dollar om onderzoeken naar verantwoorde AI te financieren

Tijdstempel: 11 september 2023 5:29 uur
Bronknooppunt: 2881081

Google heeft 20 miljoen dollar bijeengebracht om onderzoek te financieren naar de manier waarop kunstmatige intelligentie op verantwoorde wijze kan worden ontwikkeld en gebruikt en een positieve impact kan hebben op de wereld.

“AI heeft het potentieel om ons leven gemakkelijker te maken en een aantal van de meest complexe uitdagingen van de samenleving aan te pakken – zoals het voorkomen van ziekten, het beter laten werken van steden en het voorspellen van natuurrampen”, zegt Brigitte Hoyer Gosselink, directeur productimpact bij de zoekgigant. uitgelegd vandaag in een verklaring. 

“Maar het roept ook vragen op over eerlijkheid, vooroordelen, desinformatie, veiligheid en de toekomst van werk. Het beantwoorden van deze vragen zal een diepgaande samenwerking vereisen tussen de industrie, de academische wereld, overheden en het maatschappelijk middenveld.”

De 20 miljoen dollar die gereserveerd is voor dit Digital Futures Project – niet heel veel geld voor Google maar wel veel voor academici en denktanks – zal gaan naar de ondersteuning van externe onderzoekers die onderzoeken hoe machine learning-technologie de samenleving zal vormgeven nu deze steeds meer inbreuk maakt op de levens van mensen . Het project is vooral geïnteresseerd in het potentieel van AI om economieën, overheden en instellingen op zijn kop te zetten, en financiert techneuten die onderzoek willen doen naar kwesties als:

  • Hoe zal AI de mondiale veiligheid beïnvloeden, en hoe kan het worden gebruikt om de veiligheid van instellingen en ondernemingen te verbeteren
  • Welke impact zal AI hebben op de arbeidsmarkt en de economie, welke stappen kunnen we vandaag nemen om de beroepsbevolking over te zetten naar door AI ondersteunde banen van de toekomst, en hoe kunnen overheden AI gebruiken om de productiviteit en economische groei te stimuleren?
  • Welke soorten bestuursstructuren en sectoroverschrijdende inspanningen kunnen verantwoorde AI-innovatie het beste bevorderen?

Google zei dat het een deel van het geld al als subsidies heeft uitgedeeld aan verschillende denktanks: Aspen Institute, Brookings Institution, Carnegie Endowment for International Peace, het Center for a New American Security, het Center for Strategic and International Studies en R Street Institute. , evenals MIT's Future of Work, en de non-profitorganisaties SeedAI, het Institute for Security and Technology en het Leadership Conference Education Fund. 

Net als andere Big Tech-namen wil de webgigant zichzelf graag profileren als leider in de definitieve ontwikkeling van AI. Onder zijn AI-principesbeloofde Google de technologie veilig te bouwen en schadelijke vooroordelen te vermijden. Het is er echter niet altijd in geslaagd zijn beloften waar te maken en is voor sommige van zijn producten in de problemen gekomen.

Beeldherkenningssoftware die in 2015 werd ingezet in de app Foto's en zwarte mensen als gorilla's bestempelde. Om dit soort fouten te voorkomen, heeft Google gewoon geblokkeerd de mogelijkheden van gebruikers om door hun afbeeldingen te zoeken met behulp van labels die aan primaten zijn gekoppeld. Andere bedrijven, zoals Apple, Microsoft en Amazon, hebben hetzelfde gedaan met hun eigen beeldopslagsoftware.

Op dezelfde manier was Google dat ook kritiek voor het haasten om zijn internetzoekchatbot uit te rollen Bard om te concurreren met de vernieuwde chatgestuurde Bing-zoekopdracht van Microsoft. Op de dag van de lancering werd Bard betrapt op het genereren van valse informatie tijdens een openbare demonstratie. Toen de chatbot een vraag werd gesteld over de grootste ontdekkingen van de James Webb-ruimtetelescoop, beweerde hij ten onrechte: "JWST heeft de allereerste foto's gemaakt van een planeet buiten ons eigen zonnestelsel."

Onze allereerste afbeelding van een exoplaneet, 2M1207b, werd in 2004 gemaakt door de Very Large Telescope van de European Southern Observatory. volgens naar Nasa.

Later bleek dat de Bing AI van Microsoft niet echt beter was gegenereerde onjuiste informatie over plaatsen en uit rapporten.

Toch probeert Google zijn technologie veiliger te maken en heeft het zich aangesloten bij andere topbedrijven, zoals OpenAI, Meta, Amazon, Microsoft en anderen, om in te stemmen met door de overheid geleide audits van zijn producten. Deze onderzoeken zullen zich richten op bijzonder risicovolle gebieden, zoals cyberveiligheid en bioveiligheid. Ze beloofden ook digitale watermerktechnieken te ontwikkelen om door AI gegenereerde inhoud te detecteren en desinformatie aan te pakken.

Dat maakten onderzoekers van Google DeepMind vorige maand bekend SynthID, een tool die op subtiele wijze de pixels van een afbeelding verandert die door het model Imagen wordt gegenereerd, om aan te geven dat het een synthetische afbeelding is. Ondertussen heeft Google onlangs ook zijn politieke inhoud bijgewerkt reglement en vereist nu dat alle geverifieerde verkiezingsadverteerders bekendmaken of hun advertenties door AI gegenereerde afbeeldingen, video's of audio bevatten. Het nieuwe beleid treedt medio november later dit jaar in werking.

En Amazon recent heeft zijn beleid aangepast om te eisen dat auteurs hun werk delen via de Kindle Direct Publishing van de e-commercegigant openbaren elk gebruik van AI voor het genereren van inhoud. ®

Tijdstempel:

Meer van Het register