Bình luận Những nỗ lực của Apple trong việc bổ sung AI vào iDevices của mình sẽ không khiến ai ngạc nhiên, nhưng việc sử dụng công nghệ hiện tại của Cupertino và những hạn chế về phần cứng di động cho thấy đây sẽ không phải là một tính năng lớn của iOS trong tương lai gần.
Apple đã không tham gia vào làn sóng chủ nghĩa tăng cường AI tổng quát gần đây, thậm chí còn tránh sử dụng các thuật ngữ “AI” hoặc “Trí tuệ nhân tạo” trong các bài thuyết trình quan trọng gần đây của mình so với nhiều doanh nghiệp. Tuy nhiên, học máy đã và đang tiếp tục là một khả năng quan trọng của Apple - chủ yếu là nền tảng trong việc cung cấp các cải tiến tinh tế cho trải nghiệm người dùng.
Việc Apple sử dụng AI để xử lý hình ảnh là một ví dụ về công nghệ hoạt động ở chế độ nền. Khi iThings chụp ảnh, thuật toán học máy sẽ hoạt động để xác định và gắn thẻ đối tượng, chạy nhận dạng ký tự quang học và thêm liên kết.
Vào năm 2024, loại AI vô hình đó sẽ không còn tác dụng nữa. Các đối thủ của Apple đang chào hàng AI như một khả năng thiết yếu cho mọi thiết bị và ứng dụng. Theo một báo cáo gần đây Thời báo Tài chính báo cáoApple đã âm thầm mua lại các công ty AI và phát triển các mô hình ngôn ngữ lớn của riêng mình để đảm bảo có thể cung cấp.
Lợi thế phần cứng của Apple
Các đơn vị xử lý thần kinh (NPU) trong silicon homebrew của Apple xử lý việc triển khai AI hiện có. Apple đã sử dụng các bộ tăng tốc mà họ gọi là “Công cụ thần kinh” kể từ khi ra mắt hệ thống trên chip A2017 năm 11 và sử dụng chúng để xử lý khối lượng công việc học máy nhỏ hơn nhằm giải phóng CPU và GPU của thiết bị cho các công việc khác.
NPU của Apple đặc biệt mạnh mẽ. A17 Pro được tìm thấy trong iPhone 15 Pro có khả năng đẩy 35 TOPS, gấp đôi so với người tiền nhiệm và khoảng gấp đôi trong số một số NPU mà Intel và AMD cung cấp để sử dụng trong PC.
Các chip Snapdragon mới nhất của Qualcomm ngang bằng với Apple về hiệu suất NPU. Giống như Apple, Qualcomm cũng có nhiều năm kinh nghiệm về NPU trên thiết bị di động. AMD và Intel còn khá mới trong lĩnh vực này.
Apple chưa chia sẻ hiệu suất dấu phẩy động hoặc số nguyên cho GPU của chip, mặc dù họ đã giới thiệu về các trò chơi chạy hiệu quả như Resident Evil 4 Remake và Assassin's Creed Mirage. Điều này cho thấy sức mạnh tính toán không phải là yếu tố hạn chế để chạy các mô hình AI lớn hơn trên nền tảng.
Hỗ trợ thêm cho điều này là thực tế là silicon dòng M của Apple, được sử dụng trong các dòng máy Mac và iPad, đã được chứng minh là đặc biệt hiệu quả trong việc chạy khối lượng công việc suy luận AI. Trong thử nghiệm của chúng tôi, với bộ nhớ đầy đủ — chúng tôi gặp rắc rối với dung lượng dưới 16 GB — một chiếc Macbook Air M1 đã ba năm tuổi có nhiều khả năng chạy Llama 2 7B ở độ chính xác 8 bit và thậm chí còn nhanh hơn với 4 bit phiên bản lượng tử hóa của mô hình. Nhân tiện, nếu bạn muốn thử tính năng này trên máy Mac M1 của mình, Ollama.ai làm cho việc chạy Llama 2 trở nên dễ dàng.
Điểm mà Apple có thể buộc phải nhượng bộ về phần cứng là bộ nhớ.
Nói chung, các mô hình AI cần khoảng 8 gigabyte bộ nhớ cho mỗi tỷ tham số khi chạy ở độ chính xác 4 bit. Điều này có thể giảm đi một nửa bằng cách giảm xuống độ chính xác thấp hơn, chẳng hạn như Int-XNUMX, hoặc bằng cách phát triển các mô hình lượng tử hóa nhỏ hơn.
Llama 2 7B đã trở thành điểm tham chiếu phổ biến cho PC và điện thoại thông minh AI do yêu cầu tính toán và dấu chân tương đối nhỏ khi chạy kích thước lô nhỏ. Sử dụng lượng tử hóa 4 bit, yêu cầu của mô hình có thể giảm xuống còn 3.5 GB.
Nhưng ngay cả với 8 GB RAM trên iPhone 15 Pro, chúng tôi nghi ngờ rằng thế hệ điện thoại tiếp theo của Apple có thể cần nhiều bộ nhớ hơn hoặc các mẫu điện thoại sẽ cần nhỏ hơn và nhắm mục tiêu nhiều hơn. Đây có thể là một trong những lý do khiến Apple chọn phát triển các mẫu của riêng mình thay vì hợp tác với các mẫu như Stable Diffusion hay Llama 2 để chạy ở Int-4, như chúng ta đã thấy từ Qualcomm.
Cũng có một số bằng chứng cho thấy Apple có thể đã tìm ra cách giải quyết vấn đề bộ nhớ. Như được phát hiện bởi Thời báo Tài chính, hồi tháng 12, các nhà nghiên cứu của Apple đã công bố [PDF] một bài báo chứng minh khả năng chạy LLM trên thiết bị bằng bộ nhớ flash.
Mong đợi một cách tiếp cận thận trọng hơn đối với AI
Khi Apple giới thiệu chức năng AI trên nền tảng máy tính để bàn và thiết bị di động, chúng tôi kỳ vọng hãng sẽ có một cách tiếp cận tương đối thận trọng.
Biến Siri thành thứ mà mọi người không cảm thấy cần phải nói như một đứa trẻ mẫu giáo dường như là một điểm khởi đầu hiển nhiên. Làm điều đó có thể có nghĩa là giao cho LLM công việc phân tích đầu vào thành dạng mà Siri có thể dễ hiểu hơn, để bot có thể đưa ra câu trả lời tốt hơn.
Siri có thể trở nên ít dễ nhầm lẫn hơn nếu bạn diễn đạt truy vấn theo cách vòng vo, dẫn đến phản hồi hiệu quả hơn.
Về lý thuyết, điều này sẽ có một số lợi ích. Đầu tiên là Apple sẽ có thể thoát khỏi việc sử dụng một mô hình nhỏ hơn nhiều so với những thứ như Llama 2. Thứ hai, là hãng sẽ tránh được phần lớn vấn đề LLM tạo ra phản hồi sai.
Chúng tôi có thể sai, nhưng Apple có thành tích là chậm triển khai các công nghệ mới nhất nhưng sau đó lại đạt được thành công trong khi những người khác đã thất bại bằng cách dành thời gian để tinh chỉnh và đánh bóng các tính năng cho đến khi chúng thực sự hữu ích.
Và với giá trị của nó, AI có tính sáng tạo vẫn chưa chứng minh được nó là một thành công: Chatbot lớn của Microsoft đặt cược vào việc thổi sức sống vào công cụ tìm kiếm Bing mà không ai yêu thích chưa dịch vào việc tăng thị phần lớn.
Trong khi đó, Apple đã giành vương miện vào năm 2024 nhà cung cấp điện thoại thông minh hàng đầu trong khi chỉ triển khai AI vô hình. ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2024/01/25/apple_generative_ai/
- : có
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 15%
- 2024
- 35%
- 8
- a
- có khả năng
- Có khả năng
- Giới thiệu
- máy gia tốc
- Theo
- thực sự
- thêm vào
- thêm
- AI
- Mô hình AI
- KHÔNG KHÍ
- thuật toán
- Ngoài ra
- Mặc dù
- AMD
- an
- và
- câu trả lời
- bất kỳ ai
- Apple
- Các Ứng Dụng
- phương pháp tiếp cận
- LÀ
- xung quanh
- nhân tạo
- trí tuệ nhân tạo
- AS
- kẻ ám sát
- At
- tránh
- tránh
- xa
- trở lại
- lý lịch
- BE
- trở nên
- được
- được
- Lợi ích
- Đặt cược
- Hơn
- lớn
- lớn hơn
- Tỷ
- Bing
- Bot
- Bánh mì
- các doanh nghiệp
- nhưng
- Mua
- by
- CAN
- khả năng
- có khả năng
- nắm bắt
- tính cách
- nhận dạng nhân vật
- chatbot
- trẻ em
- Chip
- Snacks
- CO
- Chung
- Các công ty
- so
- tính toán
- tính toán
- khả năng tính toán
- nhượng bộ
- nhầm lẫn
- bảo thủ
- khó khăn
- liên tiếp
- có thể
- Couple
- CPU
- Vương miện
- Cắt
- ra mắt
- Tháng mười hai
- cung cấp
- thể hiện
- triển khai
- máy tính để bàn
- phát triển
- phát triển
- thiết bị
- Thiết bị (Devices)
- Lôi thôi
- làm
- Không
- làm
- don
- tăng gấp đôi
- Rơi
- hai
- dễ dàng
- Hiệu quả
- những nỗ lực
- hay
- việc làm
- Động cơ
- đảm bảo
- thiết yếu
- Ngay cả
- Mỗi
- bằng chứng
- ví dụ
- hiện tại
- kinh nghiệm
- thực tế
- yếu tố
- thất bại
- Yêu thích
- Đặc tính
- Tính năng
- cảm thấy
- lĩnh vực
- tìm kiếm
- Tên
- Đèn flash
- nổi
- Dấu chân
- Trong
- buộc
- hình thức
- tìm thấy
- Miễn phí
- từ
- FT
- chức năng
- tương lai
- Trò chơi
- Gen
- nói chung
- thế hệ
- Trí tuệ nhân tạo
- được
- được
- Cho
- Go
- GPU
- giảm một nửa
- xử lý
- phần cứng
- Có
- Đánh
- HTTPS
- xác định
- if
- hình ảnh
- thực hiện
- triển khai
- cải tiến
- in
- Tăng lên
- đầu vào
- Intel
- Sự thông minh
- trong
- giới thiệu
- vô hình
- iOS
- iPad
- iPhone
- isn
- vấn đề
- IT
- ITS
- Việc làm
- gia nhập
- jpg
- Key
- Chủ âm
- bài thuyết trình quan trọng
- nhãn
- Ngôn ngữ
- lớn
- phần lớn
- Trễ, muộn
- mới nhất
- học tập
- ít
- Cuộc sống
- Lượt thích
- Có khả năng
- dòng
- liên kết
- Loài đà mã ở nam mỹ
- thấp hơn
- mac
- macbook
- máy
- học máy
- chính
- làm cho
- LÀM CHO
- nhiều
- thị trường
- thị phần
- Có thể..
- nghĩa là
- Trong khi đó
- Bộ nhớ
- microsoft
- nhỏ
- Mirage
- di động
- thiết bị di động
- kiểu mẫu
- mô hình
- chi tiết
- chủ yếu
- nhiều
- Gần
- Cần
- nhu cầu
- Mới
- tiếp theo
- thế hệ tiếp theo
- Không
- tại
- Rõ ràng
- of
- cung cấp
- on
- ONE
- có thể
- nhận dạng ký tự quang học
- or
- Nền tảng khác
- Khác
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- riêng
- Giấy
- thông số
- đặc biệt
- máy tính
- hiệu suất
- điện thoại
- Hình ảnh
- Nơi
- nền tảng
- Nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Điểm
- Tiếng Ba Lan
- mạnh
- quyền lực
- mạnh mẽ
- Độ chính xác
- người tiền nhiệm
- Thuyết trình
- pro
- Vấn đề
- xử lý
- sản xuất
- Chứng minh
- đã được chứng minh
- sức mạnh
- công bố
- Đẩy
- qualcomm
- lặng lẽ
- RAM
- hơn
- có thật không
- lý do
- gần đây
- công nhận
- ghi
- tài liệu tham khảo
- lọc
- tương đối
- Yêu cầu
- nhà nghiên cứu
- Thường trú 4 ác
- phản ứng
- kết quả
- ngay
- đối thủ
- chạy
- chạy
- s
- Tìm kiếm
- công cụ tìm kiếm
- Thứ hai
- dường như
- đã xem
- dịch vụ
- Chia sẻ
- chia sẻ
- nên
- Silicon
- kể từ khi
- siri
- kích thước
- nhỏ
- nhỏ hơn
- điện thoại thông minh
- điện thoại thông minh
- snapdragon
- So
- một số
- một cái gì đó
- nói
- nói
- ổn định
- Bắt đầu
- thành công
- đề nghị
- Gợi ý
- Hỗ trợ
- bất ngờ
- ngạc nhiên
- T
- TAG
- Hãy
- dùng
- nhắm mục tiêu
- công nghệ cao
- Công nghệ
- Công nghệ
- về
- Kiểm tra
- hơn
- việc này
- Sản phẩm
- Them
- sau đó
- lý thuyết
- Đó
- họ
- điều này
- thời gian
- đến
- mất
- tops
- chào hàng
- theo dõi
- rắc rối
- thử
- hiểu
- các đơn vị
- cho đến khi
- sử dụng
- đã sử dụng
- hữu ích
- người sử dang
- Kinh nghiệm người dùng
- sử dụng
- sử dụng
- Ve
- phiên bản
- muốn
- là
- Sóng
- Đường..
- we
- Điều gì
- khi nào
- cái nào
- trong khi
- sẽ
- với
- Công việc
- giá trị
- Sai
- năm
- nhưng
- bạn
- trên màn hình
- zephyrnet