Connect with us

Công Nghệ Phần Mềm

Chẳng ai hiểu AI hoạt động như thế nào

Published

on

CEO của chatbot AI nhất nhì thế giới thừa nhận: Chẳng ai hiểu AI hoạt động như thế nào. Khi chúng ta không hiểu rõ công cụ của mình, liệu nó có an toàn để sử dụng?

Trong một bài viết gây chấn động vừa được đăng tải trên trang web cá nhân, Dario Amodei – CEO của Anthropic, công ty đứng sau chatbot Claude – đã công khai thừa nhận một sự thật khó tin: không ai thực sự hiểu rõ cách AI hoạt động. Tuyên bố này đến từ người đứng đầu một trong những phòng thí nghiệm trí tuệ nhân tạo hàng đầu thế giới, khiến nhiều người ngạc nhiên và lo ngại về công nghệ đang thay đổi cuộc sống hàng ngày của chúng ta.

” Khi một hệ thống AI tạo sinh thực hiện một việc gì đó, như tóm tắt một tài liệu tài chính, chúng ta không hề biết, ở mức độ cụ thể hay chính xác, tại sao nó đưa ra những lựa chọn đó – tại sao nó chọn từ ngữ này thay vì từ ngữ khác, hoặc tại sao đôi khi nó mắc lỗi dù thường xuyên chính xác ,” CEO Anthropic viết.

Ông tiếp tục thừa nhận rằng những người ngoài ngành AI có thể ngạc nhiên khi biết rằng ngay cả những người xây dựng công nghệ cũng ” không hiểu cách hoạt động của chính những sáng tạo AI của họ” và bất kỳ ai lo ngại về sự thiếu hiểu biết này đều “có quyền lo lắng .”

Để giải quyết vấn đề này, Amodei đã công bố kế hoạch tạo ra một “MRI cho AI” trong thập kỷ tới. Mục tiêu không chỉ là tìm hiểu cơ chế hoạt động của công nghệ, mà còn ngăn chặn bất kỳ mối nguy hiểm không lường trước nào liên quan đến bản chất bí ẩn hiện tại của nó. Theo ông, “sự thiếu hiểu biết này về cơ bản là chưa từng có trong lịch sử công nghệ.”

Trong những tháng gần đây, Amodei cho biết Anthropic không chỉ tập trung vào việc giúp “điều hướng” AI theo hướng có lợi cho nhân loại, mà còn nghiên cứu “khả năng hấp dẫn” rằng các nhà nghiên cứu cuối cùng có thể hiểu được cách hoạt động bên trong của các hệ thống này ” trước khi các mô hình đạt đến mức độ sức mạnh áp đảo .”

CEO của chatbot AI nhất nhì thế giới thừa nhận: Chẳng ai hiểu AI hoạt động như thế nào- Ảnh 2.

Để minh họa cho những nỗ lực này, CEO Anthropic đã chia sẻ về một thí nghiệm gần đây của công ty. Trong thí nghiệm, một “đội đỏ” cố tình đưa vào một vấn đề trong một mô hình AI (chẳng hạn như xu hướng khai thác lỗ hổng trong một nhiệm vụ) và giao cho các “đội xanh” nhiệm vụ tìm ra điều gì sai với nó. Nhiều đội xanh đã thành công trong việc phát hiện vấn đề, một số thậm chí đã áp dụng hiệu quả các công cụ diễn giải trong quá trình điều tra.

Mặc dù còn nhiều việc phải làm để mở rộng quy mô các “công cụ” này, nhưng thật thú vị khi biết rằng những người tại đối thủ lớn nhất của OpenAI không chỉ đang nỗ lực phát triển AI tiên tiến hơn, mà còn tự giao cho mình nhiệm vụ tìm hiểu lý do và cách thức hoạt động của nó.

“AI mạnh mẽ sẽ định hình vận mệnh của nhân loại,” Amodei kết luận, “và chúng ta xứng đáng hiểu được những sáng tạo của chính mình trước khi chúng biến đổi triệt để nền kinh tế, cuộc sống và tương lai của chúng ta.” Lời cảnh báo này từ người trong cuộc đặt ra câu hỏi về trách nhiệm của các công ty công nghệ trong việc phát triển những hệ thống mà họ chưa thực sự hiểu rõ, đồng thời nhấn mạnh tầm quan trọng của việc nghiên cứu sâu hơn về cách hoạt động nội tại của AI trước khi công nghệ này trở nên quá mạnh để kiểm soát.

Ver2solution Research dịch

Continue Reading
Click to comment

Leave a Reply

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *

Xu Hướng

Mở rộng mua sắm trên Gemini khai thác sớm thắng lớn

Published

on

Google vừa triển khai bản cập nhật lớn cho trải nghiệm mua sắm trên ứng dụng Gemini tại Việt Nam, bổ sung các tính năng AI giúp người dùng tìm kiếm, so sánh và lựa chọn sản phẩm ngay trong một cuộc trò chuyện, thay vì phải tra cứu qua nhiều website và ứng dụng khác nhau.

Bản cập nhật đưa Gemini tiến gần hơn vai trò một trợ lý mua sắm cá nhân. Người dùng chỉ cần mô tả nhu cầu bằng ngôn ngữ tự nhiên, chẳng hạn “tìm quà sinh nhật cho mẹ thích yoga, ngân sách khoảng 3 triệu đồng” hay “chọn vali xách tay cho chuyến du lịch cuối tuần”. AI sẽ phân tích yêu cầu, sau đó đưa ra danh sách sản phẩm phù hợp kèm hình ảnh, mức giá, đánh giá từ người mua và các địa chỉ bán hàng.

Điểm thay đổi đáng chú ý là toàn bộ quá trình từ lên ý tưởng, tham khảo sản phẩm đến so sánh các lựa chọn đều diễn ra trong cùng một cửa sổ trò chuyện. Trước đây, người dùng thường phải chuyển qua lại giữa nhiều tab trình duyệt để đọc đánh giá, kiểm tra giá bán và đối chiếu thông số kỹ thuật. Với Gemini, các thông tin này được tổng hợp thành một câu trả lời duy nhất, giúp rút ngắn thời gian tìm kiếm và giảm bớt thao tác.

Trong trường hợp cần cân nhắc giữa nhiều sản phẩm, Gemini có thể tự động tạo bảng so sánh các tiêu chí quan trọng như giá bán, kích thước, trọng lượng, chất liệu hoặc tính năng. Chẳng hạn, khi phân vân giữa nhiều mẫu vali kéo hoặc đồng hồ thông minh, người dùng sẽ nhận được bảng đối chiếu trực quan để dễ dàng đánh giá ưu, nhược điểm của từng lựa chọn trước khi quyết định.

Google cũng cho biết các gợi ý được cá nhân hóa theo từng câu hỏi thay vì chỉ hiển thị kết quả tìm kiếm chung. Điều này giúp AI hiểu rõ hơn mục đích mua sắm, ngân sách và sở thích của người dùng để đưa ra những đề xuất phù hợp hơn. Với các nhu cầu mang tính cảm hứng như chọn quà tặng, Gemini còn hiển thị hình ảnh sản phẩm dưới dạng thanh trượt, giúp việc tham khảo trở nên trực quan.

Nền tảng đứng sau tính năng mới là Shopping Graph – hệ thống dữ liệu mua sắm của Google với hơn 50 tỷ danh sách sản phẩm trên toàn cầu. Theo đại diện Google, cơ sở dữ liệu này được cập nhật khoảng 2 tỷ sản phẩm mỗi giờ, giúp AI cung cấp thông tin mới về giá bán, tình trạng còn hàng cũng như các lựa chọn mua sắm từ nhiều nhà bán lẻ.

Việc bổ sung trải nghiệm mua sắm AI tại Việt Nam cho thấy Google đang mở rộng vai trò của Gemini từ một chatbot trả lời câu hỏi sang công cụ hỗ trợ ra quyết định trong các tình huống thực tế. Thay vì chỉ cung cấp thông tin, AI có thể giúp người dùng hoàn thành gần như toàn bộ quá trình tìm kiếm và đánh giá sản phẩm trong một cuộc hội thoại.

Ver2Solution theo Vietnamnet

Continue Reading

Công Nghệ Phần Mềm

Meta phải giới hạn mức dùng mô hình AI Gemini của Google

Published

on

Truyền thông Mỹ ngày 28/6 dẫn các nguồn thạo tin cho biết Google đã quyết định giới hạn dung lượng sử dụng mô hình trí tuệ nhân tạo (AI) Gemini của Meta, sau khi công ty mẹ của Facebook yêu cầu mức dung lượng điện toán vượt quá khả năng đáp ứng của đối tác.

Nguồn tin tiết lộ vào khoảng tháng 3 năm nay, Google đã thông báo với Meta về việc không thể cung cấp toàn bộ dung lượng Gemini mà hãng này muốn mua. Tình trạng thiếu hụt công suất này đã làm gián đoạn và đình trệ một số dự án AI nội bộ của Meta. Để thích ứng với các lệnh hạn chế, ban lãnh đạo Meta đã yêu cầu nhân viên phải tối ưu hóa và sử dụng tiết kiệm hơn các token AI (đơn vị đo lường khối lượng dữ liệu được xử lý bởi các mô hình AI).

Tình trạng khan hiếm năng lực xử lý cũng ảnh hưởng đến một số khách hàng khác của Google, dù ở mức độ nhẹ hơn. Riêng Meta chịu tác động nặng nề nhất do có nhu cầu sử dụng các mô hình của Google ở mức cao bất thường. Hiện Google và Meta đều chưa đưa ra phản hồi chính thức.

Vụ việc trên phản ánh một thực trạng trong ngành công nghệ hiện nay. Bất chấp việc đổ hàng tỷ USD để mua sắm chip và xây dựng các trung tâm dữ liệu, các doanh nghiệp vẫn đang phải chật vật xoay sở để đảm bảo đủ sức mạnh điện toán nhằm đáp ứng nhu cầu sử dụng dịch vụ AI ngày càng tăng.

Về bức tranh tài chính của Google, doanh thu mảng điện toán đám mây đã tăng lên mức 20 tỷ USD trong quý kết thúc vào tháng 3/2026. Tuy nhiên, Giám đốc điều hành (CEO) Sundar Pichai thừa nhận những rào cản về năng lực điện toán đã cản bước bộ phận này đạt mức tăng trưởng cao hơn. Theo người đứng đầu Google, tình trạng này cũng chính là nguyên nhân khiến lượng đơn hàng tồn đọng của mảng đám mây tăng gần gấp đôi so với quý trước đó.

Ver2Solution theo Báo Tin Tức

Continue Reading

Các Nền Tảng MXH

Facebook đang nghe lén người dùng ?

Published

on

Nghi ngờ Facebook sử dụng micro điện thoại nghe lén vì quảng cáo xuất hiện quá chính xác, tuy nhiên nguyên nhân có thể nằm ở dữ liệu hành vi người dùng.

các diễn đàn công nghệ và mạng xã hội liên tục xuất hiện những chia sẻ cho rằng Facebook dường như “biết quá nhiều” về sở thích, nhu cầu hay dự định của người dùng.

Nhiều người cho biết họ chỉ mới nhắc đến một sản phẩm, địa điểm du lịch hay món ăn nào đó trong cuộc trò chuyện trực tiếp với bạn bè, chỉ ít giờ sau Facebook đã xuất hiện hàng loạt quảng cáo liên quan.

Điều này khiến không ít người đặt câu hỏi liệu nền tảng mạng xã hội lớn nhất thế giới có đang âm thầm nghe lén các cuộc trò chuyện của người dùng hay không.

Năm 2024, nghi vấn này một lần nữa gây chú ý khi một số tài liệu tiếp thị của công ty quảng cáo Cox Media Group (CMG) bị truyền thông quốc tế tiết lộ.

Trong các tài liệu này xuất hiện khái niệm “Active Listening” (lắng nghe chủ động), được giới thiệu là công nghệ có khả năng sử dụng dữ liệu giọng nói nhằm hỗ trợ quảng cáo nhắm mục tiêu.

Thông tin nhanh chóng làm dấy lên tranh luận về khả năng các nền tảng công nghệ đang sử dụng micro trên điện thoại để thu thập dữ liệu người dùng.

Meta, công ty mẹ của Facebook và Instagram, nhiều lần phủ nhận cáo buộc nghe lén người dùng.

Trong tài liệu về quyền riêng tư đăng trên Facebook, Meta khẳng định công ty không sử dụng micro trên điện thoại để phục vụ quảng cáo hoặc thay đổi nội dung hiển thị trên News Feed.

Theo Meta, micro chỉ được kích hoạt khi người dùng chủ động sử dụng các tính năng cần đến âm thanh như ghi âm, gọi điện hoặc quay video.

Năm 2025, Adam Mosseri, Giám đốc Instagram, cũng phải lên tiếng giải thích về nghi vấn này. Ông cho rằng Meta không nghe lén người dùng và khẳng định nguyên nhân khiến nhiều người tin vào điều đó nằm ở khả năng cá nhân hóa quảng cáo ngày càng chính xác của các nền tảng số.

Đến nay chưa có bằng chứng công khai đáng tin cậy nào cho thấy Facebook bí mật sử dụng micro để ghi lại các cuộc trò chuyện hằng ngày của người dùng nhằm phục vụ quảng cáo.

Nhiều chuyên gia quyền riêng tư cho rằng Facebook không cần phải nghe lén để hiểu người dùng đang quan tâm điều gì.

Theo tổ chức bảo vệ quyền riêng tư số Electronic Frontier Foundation (EFF), các nền tảng như Facebook đã sở hữu lượng dữ liệu rất lớn về hành vi trực tuyến của người dùng, từ hoạt động trên mạng xã hội, lịch sử tương tác quảng cáo, vị trí địa lý, thông tin thiết bị cho đến các website có tích hợp công cụ theo dõi của Meta.

Nhờ nguồn dữ liệu khổng lồ này, hệ thống quảng cáo có thể xây dựng hồ sơ người dùng chi tiết và đưa ra những dự đoán khá chính xác về sở thích hoặc nhu cầu trong tương lai.

Điều đó tạo ra cảm giác như Facebook đang “đọc suy nghĩ” hoặc nghe được những cuộc trò chuyện ngoài đời thực, dù chưa có bằng chứng cho thấy nền tảng thực sự sử dụng micro để thực hiện điều này.

Dù vậy, các chuyên gia bảo mật vẫn khuyến nghị người dùng thường xuyên rà soát quyền truy cập của ứng dụng trên điện thoại, đặc biệt là các quyền liên quan đến micro, camera và vị trí, nhằm hạn chế nguy cơ thu thập dữ liệu ngoài mong muốn.

Ver2Solution theo VTCNews

Continue Reading

Đọc nhiều nhất

Copyright © 2024 Ver2solution.com .