OpenAI:n perustaja Sam Altman vahvistaa, että "ChatGPT:llä on puutteita puolueellisessa asemassa"

OpenAI:n perustaja Sam Altman vahvistaa, että "ChatGPT:llä on puutteita puolueellisessa asemassa"

Aikaleima: 2. helmikuuta 2023 11
Lähdesolmu: 1935966

"Tiedämme, että ChatGPT:ssä on harhaan liittyviä puutteita, ja pyrimme parantamaan sitä."

Kirjoitimme eilen OpenAI:sta sen jälkeen, kun jotkut ChatGPT:n käyttäjät ilmoittivat, että Elon Muskin ja Sam Altmanin perustama organisaatio on muutti chatbotin poliittiseksi työkaluksi ja nyt käytetään sitä edistämään transsukupuolisuutta. ChatGPT:n poliittisen ennakkoluuloton rakentamien ChatGPT-insinöörien tekoälyn uskottavuudelle aiheuttama vahinko on korjaamaton. valittivat. "AI käskee vahvistaa transsukupuolisia lapsia", toinen ChatGP-käyttäjä sanoi.

Vain muutama tunti tarinan jälkeen OpenAI:n perustaja Sam Altman otti sosiaalisen median esiin ongelmat sekä OpenAI:n insinöörejä kohtaan kohdistuneen vihan. Twitter-viestissä Altman myönsi, että ChatGPT:ssä on tällä hetkellä joitain puutteita puolueellisessa mielessä, mikä ei ole harvinaista jokaiselle uudelle teknologialle. Altman lisäsi, että yritys pyrkii parantamaan chatbotia. Mutta hän ei suhtautunut ystävällisesti OpenAI:n insinööreihin kohdistuviin hyökkäyksiin ja kutsui niitä kauhistuttaviksi.

"Tiedämme, että ChatGPT:ssä on puutteita puolueellisuuteen liittyvissä asioissa, ja pyrimme parantamaan sitä. mutta vihan kohdistaminen yksittäisiin OAI:n työntekijöihin tämän vuoksi on kauhistuttavaa. lyö minua mitä haluat, mutta muiden ihmisten kimppuun hyökkääminen täällä ei auta kenttää etenemään, ja ihmiset, jotka tekevät sen, tietävät sen."

Altman lisäsi myös, että OpenAI "pyrkii parantamaan oletusasetuksia neutraaleiksi ja myös antamaan käyttäjille mahdollisuuden saada järjestelmämme toimimaan heidän yksilöllisten mieltymystensä mukaisesti laajoissa rajoissa. tämä on vaikeampaa kuin miltä se kuulostaa, ja kestää jonkin aikaa, ennen kuin saamme asian kuntoon."

OpenAI ei ole ensimmäinen teknologiayritys, joka kohtaa tekoälyn harhaongelman. Vuonna 2021, kaksi Googlen insinööriä erosi mustan tekoälyn etiikkatutkijan Timnit Gebrun, eritrealaisesta syntyperäisen tietotekniikan tutkijan, joka työskentelee algoritmien harhaan ja tiedon louhintaan, potkut.

Vuonna 2020 Timnit Gebru kirjoitti paperin, jossa hän sanoi, että Google ja muut suuret teknologiayritykset ovat "institutionaalisesti rasistinen.Hänen artikkelinsa keskittyi samankaltaisiin ongelmiin, jotka vaivaavat ChatGPT:tä siitä, kuinka tekoälyn kielimalleilla on rakenteellisia ennakkoluuloja naisia ​​ja etnisiin vähemmistöihin kuuluvia ihmisiä kohtaan.

Käsittelimme OpenAI:ta ensimmäisen kerran noin kolme vuotta sitten Microsoft sijoitti miljardi dollaria organisaatiossa. Osana saavutettua monivuotista sopimusta yhtiöt työskentelevät yhdessä superlaskentateknologioiden tuomiseksi ja OpenAI ajaa palveluitaan yksinomaan Microsoftin pilvessä.

Kumppanuuden avulla kaksi yritystä nopeuttavat tekoälyn läpimurtoja ja vahvistavat OpenAI:n pyrkimyksiä luoda yleistä tekoälyä (AGI). Tuloksena olevat parannukset Azure-alustaan ​​auttavat myös kehittäjiä rakentamaan seuraavan sukupolven tekoälysovelluksia. Kumppanuuden myötä Microsoft ja OpenAI rakentavat yhdessä uusia Azure AI -supertietokoneteknologioita.

Kun äskettäin kysyttiin ChatGPT:stä ja siitä, pitikö Microsoft ChatGPT-teknologiaa kokeellisena vai strategisena, sen puheenjohtaja Brad Smith kertoi Reutersille, että tekoäly on edennyt nopeammin kuin monet ennustivat.

"Tulemme näkemään edistysaskeleita vuonna 2023, joita ihmiset kaksi vuotta sitten olisivat odottaneet vuonna 2033. Se tulee olemaan erittäin tärkeää paitsi Microsoftin myös kaikkien tulevaisuuden kannalta", hän sanoi haastattelussa tällä viikolla.

Elon Musk ja Sam Altman perustivat OpenAI:n loppuvuodesta 2015 voittoa tavoittelevaksi startup-yritykseksi, joka tutkii tekoälyä (AI) tavoitteenaan edistää ja kehittää ystävällistä tekoälyä siten, että se hyödyttää koko ihmiskuntaa. OpenIA sanoi, että se pyrkii "vapaasti yhteistyöhön" muiden instituutioiden ja tutkijoiden kanssa tekemällä patenteistaan ​​ja tutkimuksestaan ​​avoimia yleisölle. Molempia perustajia motivoivat osittain huoli yleisen tekoälyn aiheuttamasta eksistentiaalisesta riskistä.

Kaiken kaikkiaan uskomme, että Altman käsitteli ChatGPT-harhaa koskevaa kritiikkiä erittäin hyvin. Se, että hän myönsi ChatGPT-algoritmin harhaan, on askel oikeaan suuntaan.

Aikaleima:

Lisää aiheesta TechStartups