Một bài báo gần đây cho thấy các hệ thống học máy có thể đặt ra một vấn đề lớn: các thuật toán mua sắm nhanh chóng học cách thông đồng với nhau để tăng giá ngay cả khi không hề được kết nối và giao tiếp với nhau.

Ảnh: Sean Gallup/ Getty

Khi mua hàng qua Amazon, một thuật toán sẽ đặt giá của dịch vụ hoặc mặt hàng của khách hàng chứ không phải con người. Các thuật toán định giá đã trở nên phổ biến trong ngành bán lẻ trực tuyến, một phần là do các hệ thống tự động ngày càng nhiều và thân thiện với người dùng. Trong khi các công ty như các hãng hàng không và khách sạn từ lâu đã sử dụng máy móc để định giá, thì hệ thống định giá đã phát triển còn trước đó lâu hơn. Họ đã chuyển từ các chương trình dựa trên quy tắc sang các chương trình học tăng cường, trong đó logic quyết định giá sản phẩm không còn cần đến sự kiểm soát của con người.

Học tăng cường là một lĩnh vực con của học máy sử dụng các hình phạt và phần thưởng để khuyến khích một tác nhân AI hướng tới một mục tiêu cụ thể. AlphaGo nổi tiếng đã sử dụng công nghệ này để đánh bại những người chơi cờ giỏi nhất. Trong bối cảnh định giá, các hệ thống này được đưa ra một mục tiêu như để tối đa hóa lợi nhuận chung; sau đó họ thử nghiệm các chiến lược khác nhau trong một môi trường mô phỏng để tìm ra chiến lược tối ưu. Một bài báo gần đây cho thấy các hệ thống này có thể đặt ra một vấn đề lớn: chúng nhanh chóng học cách “thông đồng”.

Các nhà nghiên cứu tại Đại học Bologna ở Ý đã tạo ra hai thuật toán định giá dựa trên củng cố học tập đơn giản và đặt chúng lỏng lẻo trong một môi trường được kiểm soát. Họ phát hiện ra rằng hai thuật toán hoàn toàn tự trị đã học cách phản ứng với hành vi khác của một nhóm khác và nhanh chóng tăng giá hàng hóa hiển thị ở nơi mà nó sẽ được vận hành.
“Điều đáng lo ngại nhất là các thuật toán không để lại dấu vết của hành động thông đồng với nhau,” theo các nhà nghiên cứu. “Chúng học cách thông đồng hoàn toàn bằng cách thử và sai, không có kiến ​​thức trước về môi trường mà chúng vận hành, không giao tiếp với nhau và không được thiết kế hoặc hướng dẫn cụ thể để thông đồng với nhau.” Điều này có nguy cơ thúc đẩy giá hàng hóa và cuối cùng gây hại cho người tiêu dùng.

Vân Thùy

Theo MIT Technology Review


Trước sự phát triển vũ bão của công nghệ nói chung và trí tuệ nhân tạo (AI) nói riêng, rủi ro về khả năng phát triển trí tuệ nhân tạo vượt ngoài khuôn khổ hiện thời là hoàn toàn có thể xảy ra. Đứng trước những yêu cầu của xã hội, Viện Michael Dukakis (MDI) đã và đang phát triển Sáng kiến Xã hội Trí tuệ nhân tạo (AIWS) với Mô hình AIWS 7 lớp; đồng thời thành lập Hội đồng Tiêu chuẩn và Thực hành AIWS với mục tiêu phát triển và xây dựng những tiêu chuẩn cho một công dân trí tuệ nhân tạo , các chuẩn mực của Xã hội Vạn vật Trí tuệ nhân tạo (AIWS).