IBM đang từng bước phát triển một công cụ mà hãng này gọi là “Fairness 360”. Công cụ này quét dấu hiệu thiên vị trong các thuật toán nhằm đề xuất các điều chỉnh về cách sửa lỗi chúng.

Thiên vị và thành kiến hiện vẫn là vấn đề nghiêm trọng xảy ra ở nhiều xã hội, lấy đầu vào là con người và đầu ra (kết quả) có thể là rất tệ.

Trí tuệ nhân tạo (AI) đã ghi nhận sự tồn tại của vấn đề thiên vị. Vấn đề này hiếm khi là kết quả của sự có chủ ý, mà thường là kết quả của việc các nhà phát triển sáng tạo ra AI thuộc bộ phận chiếm ưu thế của mỗi xã hội.

Hãy thử lấy ví dụ về phần mềm nhận diện khuôn mặt:

Một nghiên cứu năm 2010 của các nhà nghiên cứu tại Viện Tiêu chuẩn và Kĩ thuật Quốc gia Hoa Kỳ (NIST) và Đại học Texas ở Dallas đã phát hiện ra rằng các thuật toán được thiết kế và thử nghiệm ở khu vực Đông Á hiệu quả hơn trong việc nhận diện người Đông Á, trong khi những phần mềm được thiết kế ở các nước phương Tây chính xác hơn trong việc nhận diện người da trắng.

Liên đoàn Tự do Dân sự Mỹ (ACLU) gần đây đã tiến hành một cuộc thử nghiệm công nghệ nhận diện khuôn mặt của Amazon đối với các thành viên của Quốc hội Hoa Kỳ để xem liệu họ có phù hợp với cơ sở dữ liệu ảnh căn cước hay không. Các phù hợp giả đã có ảnh hưởng không cân xứng tới các thành viện của nhóm nghị sĩ da màu.

Con người cũng có các thiên vị tự nhiên. Ví dụ, đối với phần lớn con người, việc các cá nhân có lập trường chính trị là điều rất tốt. Tuy nhiên, nếu AI bắt đầu thực hiện các hành động hoặc truyền bá quan điểm của (các) nhà phát triển AI thì nó sẽ gây ra vấn đề. Một vấn đề hiện nay là các nhà phát triển thường không biết chính xác những quyết định nào hiện đang được thực hiện bởi AI của họ và tại sao. Các AI hoạt động trong thứ được gọi là “hộp đen”.

Công cụ của IBM muốn làm cho các quyết định này trở nên minh bạch hơn để các nhà phát triển có thể biết những yếu tố nào đang được sử dụng bởi các AI của mình.

Ảnh: ISTOCK/JOEL-T

Một nghiên cứu gần đây được thực hiện bởi Viện nghiên cứu Giá trị kinh doanh của IBM cho thấy, 82% doanh nghiệp đang xem xét triển khai AI. Tuy nhiên, 60% doanh nghiệp lo ngại những vấn đề về trách nhiệm pháp lý.

Phần mềm này sẽ là phần mềm nguồn mở, dựa trên nền tảng đám mây và nó cũng sẽ làm việc với các khung phần mềm AI phổ biến khác nhau, bao gồm Watson, Tensorflow, SparkML, AWS SageMaker và AzureML.

Thanh Huyền

Lược dịch theo Artificial Intelligence News


Tác giả Ryan DawsBiên tập viên của trang Artificial Intelligence News. Ông là một người yêu thích sự tiện ích, nhà cung cấp âm nhạc và cựu dẫn chương trình Công nghệ tiêu dùng.