Google Foto AI Masih Tidak Bisa Melabeli Gorila

Diterbitkan Ulang Oleh Plato

Followers: 0

AI secara singkat AI mungkin mengalami kemajuan pesat, namun tampaknya Google masih belum menyelesaikan masalah yang sudah berlangsung selama delapan tahun pada sistem pengenalan gambarnya: mengidentifikasi gambar gorila secara akurat.

Perusahaan ini dikritik ketika pengembang perangkat lunak, Jacky Alciné, menemukan sistem pengenalan gambar yang diterapkan di aplikasi Foto pada tahun 2015 telah keliru memberi label foto dirinya dan temannya sebagai gorila. Alciné dan temannya keduanya berkulit hitam. Karena ngeri, Google dengan cepat menutupi kesalahan rasis tersebut dengan memblokir kemampuan perangkat lunak tersebut untuk memberi label pada gambar gorila.

Delapan tahun kemudian, kekurangan tersebut masih belum diperbaiki dengan baik. Sebuah eksperimen dilakukan oleh menemukan bahwa pengguna dapat menelusuri foto mereka menurut berbagai jenis hewan – seperti kucing dan kanguru – tetapi tidak untuk gorila, babon, simpanse, orangutan, dan monyet.

Aplikasi Foto masih menghindari pelabelan gambar primata. Tidak jelas apakah perusahaan tidak dapat memperbaiki masalah ini, atau apakah fitur tersebut terlalu kontroversial atau berisiko untuk diterapkan. Menariknya, aplikasi Foto Apple dan aplikasi penyimpanan OneDrive Microsoft juga mengalami kesalahan yang sama, sementara Amazon Photos cenderung salah menyebut jenis hewan lain sebagai gorila.

Alciné mengatakan dia kecewa Google tidak memperbaiki masalahnya. “Saya selamanya tidak akan percaya pada AI ini,” katanya.

OpenAI meluncurkan program baru untuk mendanai ide tentang cara mengontrol AGI secara demokratis

Lengan nirlaba OpenAI berjanji untuk memberikan total satu juta dolar kepada orang-orang dengan ide bagus tentang cara mengatur proses demokrasi di mana warga negara dapat membentuk pengembangan AI.

Siapa pun dapat mengirimkan proposal mereka hingga 2 Juni. Startup AI akan memilih sepuluh aplikasi teratas dan memberikan masing-masing $100,000 sehingga penerima dapat mulai bekerja untuk membangun prototipe ide mereka.

“AGI harus memberikan manfaat bagi seluruh umat manusia dan dibentuk menjadi seinklusif mungkin,” OpenAI mengumumkan dalam postingan blog minggu ini. “Kami meluncurkan program hibah ini untuk mengambil langkah pertama ke arah ini. Kami mencari tim dari seluruh dunia untuk mengembangkan bukti konsep untuk proses demokrasi yang dapat menjawab pertanyaan tentang aturan apa yang harus dipatuhi oleh sistem AI.”

OpenAI mengatakan bahwa hibah tersebut adalah eksperimen, dan mungkin atau mungkin tidak menerapkan ide apa pun ke dalam praktik. Startup ini tertarik pada metode yang mendukung masukan dari beragam komunitas mengenai masalah yang tidak dapat diselesaikan dengan mengikuti undang-undang.

"Misalnya: dalam kondisi apa sistem AI harus mengecam atau mengkritik tokoh masyarakat, mengingat perbedaan pendapat antar kelompok mengenai tokoh tersebut? Bagaimana seharusnya pandangan yang disengketakan direpresentasikan dalam keluaran AI? Haruskah AI secara default mencerminkan kepribadian individu median di dunia, negara pengguna, demografi pengguna, atau sesuatu yang sama sekali berbeda? Tidak ada individu, perusahaan, atau bahkan negara yang boleh mendikte keputusan ini,” tanyanya.

Antropik mengumpulkan $450 juta dalam putaran Seri C

Anthropic, startup AI yang didirikan bersama oleh mantan karyawan OpenAI, telah mengumpulkan $450 juta dalam putaran investasi terbarunya yang dipimpin oleh Spark Capital karena ingin membangun lebih banyak produk komersial.

Putaran Seri C didukung oleh Google, Salesforce Ventures, Sound Ventures, Zoom Ventures, dan lainnya. Anthropic saat ini bekerja untuk menarik lebih banyak pelanggan menggunakan model bahasanya yang besar, Claude. CEO Dario Amodei mengatakan bahwa uang itu akan digunakan untuk membangun lebih banyak produk.

“Kami sangat gembira bahwa para investor dan perusahaan teknologi terkemuka ini mendukung misi Anthropic: penelitian dan produk AI yang mengutamakan keselamatan. Sistem yang kami bangun dirancang untuk menyediakan layanan AI yang andal yang dapat memberikan dampak positif bagi bisnis dan konsumen saat ini dan di masa depan. masa depan."

Anthropic mengatakan pihaknya fokus pada pembuatan produk yang lebih aman menggunakan teknik penyelarasan AI untuk memandu chatbotnya agar mengikuti instruksi dan menghasilkan respons yang tepat. Perusahaan baru-baru ini memperluas perusahaan Claude jendela konteks untuk mendukung 100,000 token, memungkinkannya memproses ratusan halaman dokumen sekaligus.

Waymo bermitra dengan Uber untuk memperluas layanan robotaxi-nya

Biz mobil self-driving Waymo merasa nyaman dengan aplikasi taksi tumpangan teratas Uber untuk menarik lebih banyak pengendara di Phoenix, Arizona. Keduanya bersaing sengit satu sama lain pada satu titik, tetapi sekarang meluncurkan teknologi mobil otonom dengan caranya sendiri dan dapat melihat manfaat dari kemitraan.

Waymo akan menyediakan kendaraan swakemudinya, sementara Uber akan menyediakan jaringan pengendaranya. Pengguna Uber akan dapat memanggil mobil Waymo Driver untuk mengantarkan makanan yang dipesan melalui aplikasi Uber Eats, atau diantar ke tujuan yang dituju melalui aplikasi Uber.

“Kami sangat bersemangat untuk menawarkan cara lain bagi masyarakat untuk merasakan manfaat otonomi penuh yang menyenangkan dan menyelamatkan jiwa,” Tekedra Mawakana, co-CEO Waymo, menjelaskan dalam sebuah pernyataan minggu ini. “Uber telah lama menjadi pemimpin dalam layanan ridesharing yang dioperasikan oleh manusia, dan perpaduan antara teknologi pionir kami dan armada serba listrik dengan jaringan pelanggan mereka memberikan Waymo peluang untuk menjangkau lebih banyak orang.”

Layanan robotaxi diharapkan diluncurkan di Phoenix, Arizona, akhir tahun ini. ®