Computer Use cho phép tác tử AI nhìn màn hình và điều khiển chuột, bàn phím. Tìm hiểu cách nó hoạt động, giới hạn của nó và lý do nó quan trọng với tìm kiếm AI.

Trên trang này
Tóm tắt
Computer Use là khả năng AI cho phép một mô hình nhìn màn hình qua ảnh chụp và điều khiển chuột, bàn phím ảo, nhờ đó nó có thể vận hành mọi ứng dụng như một người thật làm, thay vì chỉ dựa vào một API chuyên dụng.
Muốn tìm hiểu sâu hơn? Hãy hỏi
Computer Use là khả năng của một mô hình AI trong việc nhận diện màn hình máy tính như đầu vào hình ảnh và thực hiện thao tác bằng cách nhấp chuột, gõ phím và cuộn trang, đúng như một người vận hành. Thay vì gọi một tích hợp được xây riêng cho từng tác vụ, mô hình nhìn vào những gì đang hiển thị trên màn hình, quyết định phải làm gì, thực hiện thao tác rồi lại nhìn tiếp. Anthropic đã giới thiệu khả năng này cho Claude, và nay nó có mặt trên nhiều mô hình của hãng.
Điều này quan trọng vì nó xóa bỏ một giới hạn tồn tại lâu nay của tự động hóa: phần mềm không có API. Nếu con người có thể làm một việc gì đó trên màn hình, một mô hình có Computer Use cũng có thể thử làm việc đó. Với người làm marketing và người sáng lập, khả năng này cũng là một cửa sổ nhìn vào cách các tác tử AI ngày càng lướt web, nghiên cứu và hành động, và điều đó có ảnh hưởng trực tiếp đến khả năng hiển thị.
Computer Use là khả năng cho phép một mô hình có thị giác qua ảnh chụp màn hình cùng khả năng điều khiển chuột và bàn phím trên môi trường máy tính để bàn. Trên thực tế, nó cung cấp bốn chức năng cốt lõi: chụp ảnh màn hình để thấy trạng thái hiện tại, di chuyển và nhấp con trỏ, gõ văn bản và phím tắt, và tương tác với mọi ứng dụng hay giao diện. Cùng nhau, những chức năng này cho phép mô hình trực tiếp vận hành phần mềm.
Điểm khác biệt so với tự động hóa cũ là mô hình không chạy theo một kịch bản cứng nhắc gắn với một chương trình. Nó diễn giải màn hình bằng thị giác và tự điều chỉnh, đó là lý do Computer Use gắn chặt với tác tử AI theo đuổi mục tiêu qua nhiều công cụ. Đây là một cách cụ thể để mô hình trở thành một tác nhân thực hiện việc chứ không chỉ là bộ sinh văn bản, dựa trên nền tảng AI đa phương thức.
Cơ chế là một vòng phản hồi chặt chẽ. Ứng dụng gửi yêu cầu đến mô hình với công cụ Computer Use được bật. Mô hình yêu cầu một ảnh chụp màn hình để quan sát, phân tích hình ảnh và trả về một hành động cụ thể, chẳng hạn nhấp tại một tập tọa độ hoặc gõ một chuỗi ký tự. Ứng dụng thực hiện hành động đó, chụp lại màn hình mới và gửi về, và chu trình lặp lại cho đến khi tác vụ hoàn thành.
Vì mỗi bước được dựa trên trạng thái màn hình mới nhất, mô hình có thể xử lý các hộp thoại bất ngờ hoặc thay đổi bố cục thay vì thất bại hoàn toàn. Mô hình nhận biết, suy luận, hành động rồi lặp lại này cũng là logic đứng sau tìm kiếm theo tác nhân và các quy trình làm việc theo tác nhân khác, được áp dụng ở đây cho giao diện đồ họa thay vì một chuỗi truy vấn.
Điều khiển màn hình mạnh mẽ nhưng không phải lúc nào cũng là lựa chọn chính xác nhất. Một nguyên tắc thiết kế phổ biến là ưu tiên kết nối trước, điều khiển màn hình sau: một tác tử được xây dựng tốt sẽ chọn một kết nối hoặc API chuyên dụng cho dịch vụ như lịch hay ứng dụng chat khi có sẵn, vì nhanh hơn và đáng tin cậy hơn, và chỉ quay về điều khiển màn hình trực tiếp khi không có kết nối nào.
Thứ tự này quan trọng đối với độ tin cậy. Vận hành giao diện qua ảnh chụp màn hình dễ sai sót hơn việc gọi một API gọn gàng, nên Computer Use nên được dành cho những khoảng trống mà các tích hợp có cấu trúc không lấp đầy được. Cùng logic đó xuất hiện trong các giao thức như giao thức ngữ cảnh mô hình và gọi hàm có cấu trúc, vốn cung cấp cho tác tử những công cụ chính xác khi chúng tồn tại.
Anthropic lần đầu phát hành Computer Use dưới dạng tính năng beta cùng một mô hình Claude trước đó, và từ đó đã mở rộng hỗ trợ trên dòng sản phẩm, bao gồm các mô hình Opus, Sonnet và Haiku gần đây. Việc dùng công cụ này cần một tiêu đề beta riêng, và tính năng có thể kết hợp với các công cụ khác để xây dựng những tự động hóa toàn diện hơn.
Đáng chú ý, năng lực không chỉ tỷ lệ thuận với kích thước mô hình: mô hình Haiku nhỏ hơn và nhanh hơn được ghi nhận là vượt các mô hình lớn hơn trên các bài kiểm tra Computer Use, khiến nó hấp dẫn cho tự động hóa nhạy cảm về chi phí và khối lượng lớn. Khả năng này được Anthropic cung cấp cho Claude, trong khi các tính năng duyệt web theo tác nhân tương tự cũng đang xuất hiện trên toàn thị trường.
Khả năng này phát huy tốt nhất với các công việc xuyên ứng dụng mà không có API gọn gàng. Các tác vụ điển hình gồm điền biểu mẫu trên nhiều ứng dụng web khác nhau, kiểm thử luồng giao diện người dùng từ đầu đến cuối, chuyển dữ liệu nhập từ hệ thống này sang hệ thống khác, rà soát tài liệu để trích xuất thông tin có cấu trúc, và chạy các tự động hóa nhiều bước trên các công cụ máy tính để bàn. Nói ngắn gọn, nó xử lý phần việc nối ghép lộn xộn giữa các hệ thống.
Khả năng này cũng mở rộng sang các tác vụ web, nơi một tác tử có thể điều hướng website, nhấp qua các luồng và hoàn thành những thao tác mà người dùng thường làm bằng tay. Trên WebArena, một bộ đánh giá về điều hướng web tự động trên các website thật, Claude được ghi nhận đạt kết quả hàng đầu trong số các hệ thống tác nhân đơn lẻ, cho thấy năng lực thật sự với các tác vụ trình duyệt nhiều bước. Đây cũng chính là năng lực đứng sau tìm kiếm AI theo tác nhân.
Computer Use là một cái nhìn thoáng qua về một web theo tác nhân, nơi AI thay người dùng để duyệt web. Khi các tác nhân ngày càng điều hướng, đọc và hành động trên nhiều website, câu hỏi của thương hiệu chuyển từ việc người thật có vào trang của bạn hay không sang việc một tác nhân có thể nhận diện, phân tích và hành động trên trang đó hay không. Giao diện rõ ràng, cấu trúc mạch lạc và nội dung dễ tiếp cận giúp tác nhân thành công, chứ không chỉ giúp khách truy cập là người.
Với tối ưu hóa công cụ tạo sinh, bài học thực tế là làm cho website của bạn dễ đọc đối với các máy vận hành nó bằng thị giác và bằng lập trình. Những trang có cấu trúc tốt, nhanh và không mơ hồ sẽ dễ được tác nhân đọc và sử dụng hơn, và điều này cộng hưởng với mục tiêu trích dẫn và hiển thị trong các công việc rộng hơn về khả năng hiển thị trong tìm kiếm AI. Nghiên cứu từ khóa và lập kế hoạch nội dung bài bản đảm bảo rằng nội dung mà các tác nhân tiếp cận thực sự trả lời được nhiệm vụ đang đặt ra.
Computer Use chậm hơn và kém tin cậy hơn một API trực tiếp. Thời gian thực hiện mỗi bước được ghi nhận khoảng 2 đến 5 giây, khiến nó không phù hợp với các thao tác tần suất cao hoặc thời gian thực, và việc vận hành giao diện qua ảnh chụp màn hình vẫn có thể gây sai sót tích lũy qua một tác vụ dài. Đây là một trợ lý có năng lực cho nhiều quy trình, chứ không phải một người vận hành hoàn hảo.
An toàn cần được chú trọng thật sự. Các biện pháp khuyến nghị gồm chạy tác tử trong một máy ảo riêng với quyền hạn tối thiểu, hạn chế truy cập internet, không để thông tin đăng nhập hiển thị trên màn hình, và duy trì sự giám sát của con người với các hành động có hậu quả lớn. Anthropic cũng lưu ý tính năng này có thể đủ điều kiện không lưu trữ dữ liệu, tức là dữ liệu gửi qua nó không được lưu sau khi phản hồi xong. Đối xử với tác tử như một thực tập sinh có năng lực nhưng được giám sát giúp nó vẫn hữu ích mà không gây rủi ro quá mức.
Computer Use cho phép một mô hình AI nhìn màn hình và điều khiển chuột, bàn phím ảo, vận hành phần mềm như một người thật làm thông qua vòng lặp nhận biết, suy luận, hành động rồi lặp lại. Nó mở khóa việc tự động hóa các ứng dụng không có API, hỗ trợ điều hướng web theo tác nhân, và hoạt động tốt nhất như phương án dự phòng cho các kết nối chuyên dụng chứ không phải lựa chọn đầu tiên.
Với thương hiệu, nó báo trước một web ngày càng được các tác nhân duyệt, và một web như vậy sẽ ưu ái những website sạch sẽ, máy đọc được. Hãy kết nối khả năng này với tác tử AI và tìm kiếm theo tác nhân để thấy bức tranh đầy đủ. Nguồn tham khảo: Tài liệu Anthropic Claude, Developers Digest, và CNBC.
Nguồn
Tích hợp API cho mô hình một cách gọn gàng, có cấu trúc để gọi một dịch vụ cụ thể, nhanh và đáng tin cậy nhưng chỉ hoạt động khi có tích hợp như vậy. Computer Use thì cho phép mô hình nhìn màn hình và điều khiển chuột, bàn phím, nên nó có thể vận hành mọi ứng dụng mà con người dùng được, kể cả phần mềm không có API. Cái giá phải trả là điều khiển màn hình chậm hơn và dễ sai sót hơn, nên các kết nối được ưu tiên khi có sẵn.
Anthropic ra mắt Computer Use dưới dạng tính năng beta cùng một mô hình Claude trước đó, rồi mở rộng cho các mô hình Opus, Sonnet và Haiku gần đây, mỗi nơi đều cần một tiêu đề beta riêng. Đáng chú ý, mô hình Haiku nhỏ hơn được ghi nhận là vượt các mô hình lớn hơn trên các bài kiểm tra Computer Use, khiến nó là lựa chọn mạnh cho tự động hóa khối lượng lớn, nhạy cảm về chi phí, nơi tốc độ quan trọng.
Nó báo hiệu sự chuyển dịch sang một web theo tác nhân, nơi các tác nhân AI duyệt và hành động trên website thay cho người dùng, thay vì con người đọc từng trang. Điều đó biến khả năng máy đọc được thành vấn đề xếp hạng: cấu trúc gọn gàng, trang nhanh và nội dung rõ ràng giúp tác nhân nhận diện và sử dụng website của bạn thành công. Những phẩm chất giúp tác nhân vận hành các trang của bạn cũng hỗ trợ việc được trích dẫn và hiển thị trong câu trả lời AI.
HỌ ĐÃ THỬ SORANK TRƯỚC BẠN
