Khi các nhân vật quan trọng trong lĩnh vực công nghệ không đồng tình về những rủi ro được gây ra bởi một thứ gì đó chưa thực sự tồn tại, tất cả các nhân vật quan trọng của Thung lũng Silicon đều đang tìm hiểu về những hậu quả không mong muốn của Trí tuệ nhân tạo (AI). Thời Đại AI xin giới thiệu bài viết trên tờ báo New York Times.

Mark Zuckerberg nghĩ rằng tỷ phú Elon Musk, đồng nghiệp của mình tại Thung lũng Silicon đang cư xử giống kiểu người gieo rắc nỗi hoang mang sợ hãi.

Tỷ phú Musk, nhà sáng lập SpaceX và là đồng sáng lập hãng sản xuất ô tô điện Tesla, đã tự đưa ra cảnh báo rằng trí tuệ nhân tạo có thể còn “nguy hiểm hơn cả vũ khí hạt nhân” trong các cuộc phỏng vấn trên truyền hình và trên truyền thông xã hội.

Vì vậy, vào ngày 19/11/2014, tỷ phú Zuckerberg, Tổng Giám đốc điều hành của Facebook, đã mời tỷ phú Musk ăn tối tại nhà riêng của mình ở Palo Alto, California cùng với sự góp mặt của hai nhà nghiên cứu hàng đầu từ phòng thí nghiệm AI mới của Facebook và hai giám đốc điều hành Facebook khác.

Khi họ dùng bữa, đội ngũ Facebook cố gắng thuyết phục ông Musk rằng ông đã sai. Nhưng vị tỷ phú này vẫn giữ nguyên quan điểm của mình. “Tôi thực sự tin rằng điều này là nguy hiểm”, ông Musk nói với những người có mặt ở bàn ăn, theo một trong những người tham dự của bữa tối đó, ông Yann LeCun, người đứng đầu phòng thí nghiệm AI của Facebook.

Nỗi sợ hãi của ông Musk về Trí tuệ nhân tạo, tinh hoa của họ được chắt lọc, rất đơn giản: Nếu chúng ta tạo ra những cỗ máy thông minh hơn con người, chúng có thể chống lại chúng ta (xem phim: “The Terminator”, “The Matrix” và “2001: A Space Odyssey”). Hãy thử một lần, ông ấy nói với những người còn lại trong ngành công nghiệp công nghệ cao, xem xét những hậu quả không mong muốn của những gì chúng ta đang tạo ra trước khi chúng ta đưa nó vào cuộc sống con người trên thế giới.

Cả tỷ phú Musk lẫn tỷ phú Zuckerberg đều không nói chi tiết về bữa tối, mà trước đó chưa từng được nhắc đến, hay là sự tranh luận lâu dài về AI.

Việc tạo ra “siêu trí tuệ” – cái tên cho đột phá công nghệ siêu thông minh đưa Trí tuệ nhân tạo lên cấp độ mới và tạo ra những cỗ máy không chỉ thực hiện những nhiệm vụ tỉ mỉ vốn đòi hỏi trí thông minh của con người (như ô tô tự lái) mà còn có thể đánh lừa con người – con người vẫn cảm thấy như trong thế giới khoa học viễn tưởng. Nhưng cuộc chiến trong tương lai của Trí tuệ nhân tạo đã lan rộng trong ngành công nghiệp công nghệ cao.

Hơn 4.000 nhân viên Google gần đây đã ký một bản kiến nghị phản đối một hợp đồng trị giá 9 triệu đô la Mỹ mà công ty Google đã ký với Lầu Năm Góc – một thỏa thuận giá trị thấp dành cho gã khổng lồ trong lĩnh vực mạng này, nhưng lại gây rắc rối cho nhiều nhà nghiên cứu Trí tuệ nhân tạo tại công ty. Tuần trước, các Giám đốc điều hành của Google, với nỗ lực dập tắt một cuộc nổi dậy của giới nhân viên, cho biết họ sẽ không gia hạn tiếp hợp đồng khi hết hạn vào năm tới.

Nghiên cứu Trí tuệ nhân tạo có tiềm năng rất lớn và có ý nghĩa to lớn, được xem là một công cụ kinh tế và là một ưu thế quân sự. Chính phủ Trung Quốc cho biết họ sẵn sàng chi hàng tỉ đô la trong những năm tới để biến quốc gia này thành quốc gia đứng đầu thế giới về Trí tuệ nhân tạo trong khi Lầu Năm Góc đang cố gắng tìm kiếm sự hỗ trợ mạnh mẽ từ ngành công nghệ. Một loại vũ khí tự động mới không thể bị bỏ xa.

Tất cả các nhà tư duy chuyên sâu đã tham gia vào cuộc tranh luận, từ cuộc tụ họp của các triết gia và nhà khoa học được tổ chức bên bờ biển trung tâm California đến hội nghị thường niên do Giám đốc điều hành Amazon – ông Jeff Bezos – chủ trì tại Palm Springs, California.

Ông Allan Dafoe, Giám đốc quản trị Chương trình Trí tuệ nhân tạo tại Viện Tương lai Con người (Future of Humanity Institute), một trung tâm nghiên cứu tại Đại học Oxford – nơi khám phá những rủi ro và cơ hội của công nghệ tiên tiến, cho biết: “Bây giờ chúng ta có thể nói về những rủi ro của Trí tuệ nhân tạo mà không có vẻ như chúng ta bị lạc trong thế giới khoa học viễn tưởng”.

Sự bùng nổ công khai của Facebook và các công ty công nghệ khác trong vài tháng qua đã càng làm nảy sinh vấn đề về những hậu quả không mong muốn của công nghệ do Thung lũng Silicon sáng tạo ra.

Vào tháng 04/2018, tỷ phú Zuckerberg đã dành hai ngày trả lời các câu hỏi chất vấn từ các thành viên của Quốc hội về quyền riêng tư dữ liệu và vai trò của Facebook trong việc truyền bá thông tin sai lệch trước cuộc bầu cử năm 2016. Ông cũng đã phải đối mặt với tình trạng tương tự ở châu Âu vào tháng trước.

Facebook nhận ra rằng công ty đã quá chậm chạp để hiểu những gì đang diễn ra, do đó, đây là khoảnh khắc hiếm có để Facebook chứng tỏ được mình trong một ngành mà từ lâu đã tin rằng nó đang làm cho thế giới trở nên tốt đẹp hơn, cho dù thế giới có thích nó hay không.

Ngay cả những nhân vật có ảnh hưởng lớn như người sáng lập Microsoft – tỷ phú Bill Gates và nhà vật lý học thiên văn quá cố Stephen Hawking cũng đã bày tỏ lo ngại về việc tạo ra những cỗ máy thông minh hơn con người chúng ta. Mặc dù siêu trí tuệ có vẻ tồn tại nhiều thập kỷ qua, nhưng họ và những người khác đã nói, liệu chúng ta có không nên xem xét hậu quả trước khi quá muộn hay không?

Nick Bostrom – tác giả cuốn sách “Siêu trí tuệ: Con đường, Mối nguy và Chiến lược” xuất bản năm 2014, một tác phẩm có ảnh hưởng lớn tới cuộc thảo luận về Trí tuệ nhân tạo – một số người tranh luận về khả năng gieo rắc nỗi sợ hãi

Nguồn: Tom Jamieson, tờ New York Times

“Loại hệ thống chúng ta đang tạo ra rất mạnh mẽ”, Bart Selman – Giáo sư Khoa học máy tính của Đại học Cornell và cựu nhà nghiên cứu Bell Labs cho biết, “Và chúng ta không thể hiểu tác động của chúng”.

Sứ giả không hoàn hảo

Pacific Grove là một thị trấn nhỏ trên bờ biển trung tâm bang California. Một nhóm các nhà di truyền học đã tụ họp ở đây vào mùa đông năm 1975 để thảo luận liệu công việc của họ – chỉnh sửa gen – có khả năng gây hại cho thế giới hay không. Vào tháng 01/2017, cộng đồng Trí tuệ nhân tạo cũng đã tổ chức một cuộc thảo luận tương tự tại địa điểm này.

Buổi gặp mặt riêng tư tại khách sạn Asilomar được tổ chức bởi Viện Nghiên cứu Cuộc sống Tương lai – một viện nghiên cứu được thành lập để thảo luận về những rủi ro có thể tồn tại của Trí tuệ nhân tạo và các công nghệ khác.

Những người giàu kinh nghiệm trong lĩnh vực Trí tuệ nhân tạo có mặt trong khán phòng đó; trong số đó có ông LeCun, người đứng đầu phòng thí nghiệm Trí tuệ nhân tạo của Facebook, người đã tham dự bữa tối ở nhà riêng ông chủ Facebook tại Palo Alto, đồng thời là người đã hỗ trợ phát triển mạng lưới thần kinh – một trong những công cụ quan trọng nhất về Trí tuệ nhân tạo ngày nay. Ngoài ra, buổi họp còn có sự tham dự của ông Nick Bostrom – tác giả cuốn sách “Siêu trí tuệ: Con đường, Mối nguy và Chiến lược” xuất bản năm 2014, một tác phẩm có ảnh hưởng lớn tới cuộc thảo luận về Trí tuệ nhân tạo – một số người tranh luận về khả năng gieo rắc nỗi sợ hãi; ông Oren Etzioni – cựu Giáo sư Khoa học máy tính tại Đại học Washington, người đã tiếp quản Viện Trí tuệ nhân tạo Allen ở Seattle; và ông Demis Hassabis – người đứng đầu bộ phận DeepMind, một phòng thí nghiệm nghiên cứu Trí tuệ nhân tạo thuộc sở hữu của Google ở Luân Đôn.

Và cuộc họp cũng có sự tham dự của tỷ phú Musk, người đã quyên tặng 10 triệu đô la cho Viện Mass., Cambridge vào năm 2015. Cũng trong năm đó, ông đã giúp phát triển một phòng thí nghiệm Trí tuệ nhân tạo độc lập, OpenAI, với một mục tiêu rõ ràng: tạo ra siêu trí tuệ với các biện pháp bảo vệ nhằm đảm bảo nó không thể nằm ngoài tầm kiểm soát. Đó là một thông điệp rõ ràng đã kết nối tỷ phú Mush với ông Bostrom.

Trên trang Twitter của mình, Elon Musk đã viết: “Chúng ta nên đọc “Siêu trí tuệ” của tác giả Bostrom. Chúng ta cần phải rất cảnh giác với Trí tuệ nhân tạo. Trí tuệ nhân tạo có thể nguy hiểm hơn cả vũ khí hạt nhân.”

Vào ngày thứ hai của cuộc thảo luận, tỷ phú Musk đã tham gia vào một nhóm thảo luận gồm có 9 thành viên để chỉ trả lời cho các câu hỏi siêu trí tuệ. Mỗi người tham gia đều được hỏi liệu có thể tồn tại siêu trí tuệ hay không. Tất cả các thành viên tham dự đều trả lời là “Có” ngoại trừ tỷ phú Musk khi ông này đưa ra câu trả lời là “Không”. Thính phòng nhỏ rộ lên tiếng cười. Mọi người đều hiểu rằng ông Musk nghĩ siêu trí tuệ không những có thể tồn tại mà còn rất nguy hiểm.

Ông Musk sau đó nói thêm: “Chúng ta đang hướng tới siêu trí tuệ hoặc kết thúc nền văn minh”.

Vào cuối buổi thảo luận, ông Musk được hỏi làm thế nào để xã hội có thể chung sống tốt nhất với siêu trí tuệ. Những gì chúng ta cần, ông nói, là sự kết nối trực tiếp giữa bộ não của con người và các cỗ máy do con người tạo ra. Vài tháng sau, ông tiết lộ một start-up có tên là Neuralink đã được hỗ trợ 100 triệu USD nhằm tạo ra một loại giao diện thần kinh bằng cách kết hợp các máy tính với bộ não con người.

Tất nhiên, các cảnh báo về những rủi ro của Trí tuệ nhân tạo đã tồn tại trong nhiều năm qua. Tuy nhiên, ít người trong số những người đưa ra cảnh báo tai họa có trình độ công nghệ như tỷ phú Musk. Rất ít, nếu có, đã dành nhiều thời gian và tiền bạc vào để làm điều này. Và có lẽ chẳng có ai có đầy đủ kiến thức về công nghệ.

Chỉ vài tuần sau khi ông Musk nói về các mối quan tâm của mình về Trí tuệ nhân tạo tại nhà riêng của tỷ phú Zuckerberg, ông Musk đã gọi điện cho ông LeCun và yêu cầu biết tên của những nhà nghiên cứu hàng đầu về Trí tuệ nhân tạo có thể làm việc tại dự án ô tô tự lái của mình tại hãng Tesla (công nghệ tự động đó đã được sử dụng tại thời điểm xảy ra hai vụ tai nạn xe hơi Tesla gây chết người, một vụ xảy ra ở Florida vào tháng 05/2016 và một vụ xảy ra vào tháng 3 năm nay).

Trong một cuộc kêu gọi góp vốn cho công ty Tesla gần đây, ông Musk, người đã vất vả trả lời những câu hỏi về những tổn thất tài chính của công ty và những mối quan tâm về chất lượng xe do công ty này sản xuất, đã làm hạn chế các phương tiện truyền thông không tập trung vào những tử vong mà công nghệ tự động có thể ngăn chặn, một thái độ vững vàng từ người đã nhiều lần lên tiếng cảnh báo thế giới rằng Trí tuệ nhân tạo là một mối nguy cho nhân loại.

Cuộc tranh luận ở Palm Springs

Có một câu nói ở Thung lũng Silicon như thế này: Chúng ta đánh giá cao những gì có thể được thực hiện trong 3 năm và đánh giá thấp những gì có thể được thực hiện trong 10 năm.

Vào ngày 27/01/2016, phòng thí nghiệm DeepMind của Google đã giới thiệu một cỗ máy có thể đánh bại một người chơi cờ vây (Go) chuyên nghiệp. Trong một trận đấu được tranh tài vài tháng trước đó, cỗ máy được gọi là AlphaGo đã đánh bại nhà vô địch châu Âu Fan Hui với tỷ số 5:0.

Ngay cả các nhà nghiên cứu Trí tuệ nhân tạo hàng đầu cũng cho rằng sẽ mất tới một thập kỷ nữa để có thể tạo ra một cỗ máy có thể giải quyết trò chơi này. Cờ vây rất phức tạp: có nhiều vị trí quân cờ tiềm năng hơn cả số lượng các nguyên tử trong vũ trụ, và những người chơi giỏi nhất giành chiến thắng không những phải giỏi về tính toán mà còn phải giỏi về trực giác. Hai tuần trước khi AlphaGo được tiết lộ, ông LeCun nói rằng sự tồn tại của một cỗ máy như vậy là không thể.

Vài tháng sau, AlphaGo đã đánh bại Lee Sedol, người chơi cờ vây xuất sắc nhất trong vòng một thập kỷ qua. Cỗ máy đã có những nước đi gây khó hiểu cho các chuyên gia, nhưng cuối cùng đã giành chiến thắng.

Nhiều nhà nghiên cứu, bao gồm cả các nhà lãnh đạo của DeepMind và OpenAI, tin rằng loại công nghệ tự học làm cơ sở để phát triển cỗ máy AlphaGo cung cấp một con đường dẫn tới “siêu trí tuệ”. Và họ tin rằng sự tiến bộ trong lĩnh vực này sẽ tăng tốc đáng kể trong những năm tới.

OpenAI gần đây đã “đào tạo” một hệ thống để chơi trò chơi video đua thuyền, khuyến khích hệ thống này giành được nhiều điểm trò chơi nhất có thể. Hệ thống thực hiện giành được những điểm trò chơi đó nhưng cũng giành được điểm khi di chuyển theo các vòng tròn, va chạm với những bức tường đá và đâm vào các thuyền khác.

Đó là điều không lường trước được, bởi thế mà làm gia tăng những mối lo ngại nghiêm trọng về sự trỗi dậy của Trí tuệ nhân tạo, bao gồm cả siêu trí tuệ.

Tất cả các nhà tư duy chuyên sâu đã tham gia vào cuộc tranh luận về Trí tuệ nhân tạo, bao gồm những người góp mặt ở hội nghị thường niên do Jeff Bezos – Giám đốc điều hành Amazon – chủ trì tại Palm Springs, California.

Nguồn: Jack Nicas, tờ New York Times

Nhưng sự phản đối sâu sắc đối với những mối quan tâm này được thể hiện vào tháng 3 tại một hội nghị độc quyền do Amazon và ông Bezos tổ chức tại Palm Springs.

Một buổi tối, ông Rodney Brooks – nhà nghiên cứu về robot tại Viện Công nghệ Massachusetts, đã tranh luận về những mối nguy tiềm tàng của Trí tuệ nhân tạo với nhà thần kinh học, triết gia và chuyên gia podcast Sam Harris – một tiếng nói thận trọng nổi bật về vấn đề này. Theo một bản thu âm mà tờ The Times có được, cuộc tranh luận này mang tính cá nhân.

Ông Harris cảnh báo rằng vì thế giới đang trong cuộc chạy đua vũ trang đối với Trí tuệ nhân tạo, nên các nhà nghiên cứu có thể không có thời gian cần thiết để đảm bảo siêu trí tuệ được tạo ra một cách an toàn.

“Trí tuệ nhân tạo là một thứ gì đó con người đã tạo nên”, ông Brooks trả lời. Ông muốn nói rằng lập luận của ông Harris dựa trên lý luận không có tính khoa học. Nó không thể được chứng minh đúng hay sai – một lời sỉ nhục thực sự trong giới các nhà khoa học.

“Tôi sẽ tự mình thực hiện việc này, nếu nó thực sự có ý nghĩa”, ông Harris nói.

Người điều khiển chương trình cuối cùng đã kết thúc cuộc tranh luận và yêu cầu các câu hỏi từ phía khán giả. Ông Etzioni, người đứng đầu Viện Allen, phát biểu: “Tôi không định lên khán đài”. Nhưng được ông Brooks khích lệ, ông bước lên sân khấu và đáp trả ông Harris trong vòng 3 phút, nói rằng các hệ thống AI ngày nay rất hạn chế, việc mất quá nhiều thời gian để nêu lên các mối lo ngại về siêu trí tuệ chẳng có chút ý nghĩa gì.

Những người ủng hộ ông Musk là các nhà triết học, nhà khoa học xã hội, nhà văn – không phải là các nhà nghiên cứu trong lĩnh vực Trí tuệ nhân tạo, ông nói. Trong giới các nhà khoa học Trí tuệ nhân tạo, quan điểm mà chúng ta nên bắt đầu lo lắng về siêu trí tuệ đó vẫn còn “rất nhiều tranh cãi”.

Tỷ phú Zuckerberg tới Washington

Kể từ bữa ăn tối của họ 3 năm trước, cuộc tranh luận giữa tỷ phú Zuckerberg và tỷ phú Musk đã trở nên chua chát. Mùa hè năm ngoái, trong một video Facebook được phát trực tiếp từ sân sau nhà tỷ phú Zuckerberg khi vị tỷ phú này cùng vợ mình đang nướng thịt, tỷ phú Zuckerberg gọi các quan điểm của tỷ phú Musk về Trí tuệ nhân tạo là “Khá vô trách nhiệm”.

Thái độ hoang mang sợ hãi về Trí tuệ nhân tạo hiện nay, quá sớm trong giai đoạn phát triển của nó, có thể đe dọa nhiều lợi ích đến từ những thứ như ô tô tự lái và dịch vụ chăm sóc sức khỏe AI, tỷ phú Zuckerberg nói.

“Đặc biệt với Trí tuệ nhân tạo, tôi thực sự lạc quan”, Zuckerberg nói. “Những người bao gồm những người phản đối Trí tuệ nhân tạo và những người cố gắng khiến người khác quan tâm đến các kịch bản ngày tận thế này – tôi chỉ không hiểu nó”.

Nói cách khác: Ngài đang đi trước thực tế, Elon ạ. Hãy thư giãn đi.

Ông Musk trả lời bằng một tweet. “Tôi đã nói chuyện với Mark về vấn đề này”, ông Musk viết. “Sự hiểu biết của anh ấy về chủ đề là hạn chế”.

Nguồn: Twitter của Darren Cunningham và Elon Musk

Vào tháng 4, ông Zuckerberg đã chứng thực trước Quốc hội Mỹ, giải thích cách Facebook sẽ khắc phục những vấn đề mà mạng này đã hỗ trợ tạo ra.

Làm cách nào để làm việc đó? Bằng cách dựa vào Trí tuệ nhân tạo. Nhưng trong lời khai của mình, Zuckerberg thừa nhận rằng các nhà khoa học vẫn chưa hình dung được một cách chính xác cách thức một số loại trí tuệ nhân tạo đang tìm hiểu.

“Đây sẽ là một câu hỏi rất trọng tâm về cách chúng ta nghĩ về các hệ thống Trí tuệ nhân tạo trong thập kỷ tới và sau đó”, Zuckerberg nói. “Ngay bây giờ, rất nhiều các hệ thống Trí tuệ nhân tạo của chúng ta đưa ra quyết định theo cách mà con người không thực sự hiểu”.

Các nhân vật quan trọng trong lĩnh vực công nghệ và các nhà khoa học có thể chế giễu ông Musk về thói quen chuyên đưa ra những lời cảnh báo về Trí tuệ nhân tạo, nhưng dường như họ đang hướng về quan điểm của ông.

Bên trong Google, một nhóm đang khám phá những sai sót trong các phương thức Trí tuệ nhân tạo có thể đánh lừa các hệ thống máy tính về những thứ không tồn tại ở đó. Các nhà nghiên cứu cảnh báo rằng các hệ thống Trí tuệ nhân tạo tự động tạo hình ảnh và video thực tế sẽ sớm khiến cho việc tin tưởng vào những gì chúng ta thấy trực tuyến thậm chí còn trở nên khó khăn hơn nữa. Cả DeepMind và OpenAI hiện đều điều hành các nhóm nghiên cứu dành riêng cho lĩnh vực “an toàn Trí tuệ nhân tạo”.

Ông Hassabis, người sáng lập DeepMind, vẫn cho rằng quan điểm của tỷ phú Musk là cực đoan. Nhưng ông cũng nhận xét như vậy về quan điểm của tỷ phú Zuckerberg. Mối đe dọa không có ở đây, ông cho biết. Vẫn chưa tồn tại. Nhưng các vấn đề của Facebook vừa qua là một lời cảnh báo.

“Chúng ta cần phải sử dụng thời gian chờ này, khi mọi thứ êm đềm, để chuẩn bị cho thời điểm khi mọi thứ trở nên nghiêm trọng trong những thập kỷ tới”, ông Hassabis nói, “Thời gian chúng ta có bây giờ là đáng giá, và chúng ta cần tận dụng nó”.

Thanh Huyền

Lược dịch theo The New York Times


Cade Metz đã tường thuật từ San Francisco. Jack Nicas tham gia tường thuật từ Palm Springs, California, Hoa Kỳ.