Cù Tuấn
– Cù Tuấn biên dịch từ Telegraph.
Tóm tắt: Lần đầu tiên, chúng ta đã phát minh ra một thứ có thể lấy đi sức mạnh của chúng ta, nhà sử học người Israel và tác giả của cuốn sách Sapiens cho biết
Những câu chuyện luôn quan trọng đối với Yuval Harari, nhà sử học kiêm triết gia người Israel. Khả năng độc nhất của loài chúng ta là bị ràng buộc và thống nhất bởi những câu chuyện mơ hồ, thậm chí xuyên qua các đại dương, là trọng tâm của Sapiens, biên niên sử nổi tiếng đến kinh ngạc của ông về sự trỗi dậy của loài chúng ta, đã đưa ông đến địa vị giống như nhà tiên tri sau khi nó được xuất bản một thập kỷ trước.
Có lẽ đó là lý do tại sao ngày nay ông rất quan tâm đến sự trỗi dậy của một kẻ thách thức khả năng kể chuyện của chúng ta – trí tuệ nhân tạo (AI).
“Đây là công nghệ đầu tiên trong lịch sử tạo ra những câu chuyện,” Harari, 47 tuổi, nói với tôi từ ngôi nhà của ông ở ngoại ô Tel Aviv. Đối với ông, không có gì có thể là một cuộc biểu dương quyền lực lớn hơn. Vì theo quan điểm của ông, niềm tin tập thể của chúng ta vào “những câu chuyện” – về đức tin, tài chính và quốc gia cùng những thứ khác – đã thúc đẩy sự thống trị của loài người đối với Trái đất. Ví dụ, tiền đã cho phép chúng ta phát triển, nhưng đồng xu trong túi của bạn có giá trị gì nếu người bán hàng coi nó chỉ là một tờ giấy màu xanh?
Giờ đây, AI cũng có thể thêu dệt nên những câu chuyện truyền kỳ như vậy, cho thấy tiềm năng của công nghệ cả về mặt tốt lẫn mặt xấu, từng được coi là xa vời và lý thuyết, giờ đây đã trở nên tức thời và có thật. Đó là lý do tại sao Harari đã thêm tên của mình vào một bức thư ngỏ trong tháng trước, được hàng nghìn chuyên gia bao gồm cả Elon Musk ký, với nội dung kêu gọi tạm dừng nghiên cứu về phần mềm như ChatGPT, một mô hình AI có thể tương tác với con người bằng văn bản sáng tạo, có sắc thái gần như đáng lo ngại.
Các chương trình khác có thể làm các việc tương tự với hình ảnh và âm thanh. “Thế hệ AI mới không chỉ truyền bá nội dung mà con người tạo ra. Nó có thể tự sản xuất nội dung,” Harari nói. “Hãy thử hình dung ý nghĩa của việc sống trong một thế giới mà hầu hết các văn bản và giai điệu, sau đó là phim truyền hình và hình ảnh đều được tạo ra bởi một trí thông minh không phải con người. Chúng ta chỉ không hiểu ý nghĩa của nó. Điều gì có thể là hậu quả của việc AI tiếp quản nền văn hóa?”
Các ví dụ tầm thường đã xuất hiện. Tuần trước, một tạp chí của Đức đã bị chỉ trích vì xuất bản một cuộc phỏng vấn độc quyền với Michael Schumacher, trong khi thực tế là văn bản được tạo ra bởi AI, bắt chước cựu tay đua bị liệt. Harari gợi ý rằng AI sẽ sớm tiến xa hơn nữa, gợi lên một thế giới trong đó “bạn lên mạng và tranh luận với ai đó về một số vấn đề chính trị. Có thể họ thậm chí còn gửi cho bạn một đoạn video họ nói chuyện. Nhưng không có người đứng sau nó. Tất cả đều là AI.”
Cũng không phải Harari bị loạn thị giác, khi mà việc làm giả nội dung kỹ thuật số tổng hợp sẽ không chỉ là của bất kỳ con người nào. Bởi vì chúng ta bị ảnh hưởng đặc biệt bởi những người gần gũi với mình, và đó có thể là bạn bè hoặc người thân đang cố thuyết phục bạn về giá trị của một sản phẩm hoặc quan điểm của họ về biến đổi khí hậu, vắc xin hoặc việc nhập cư. Harari nói, đó sẽ là một quyền lực thao túng việc kể các câu chuyện công khai chưa từng thấy trước đây, và sẽ khiến mạng xã hội có ảnh hưởng mạnh đến các vụ bê bối trong 10 năm qua, vốn được cho là đã đóng một vai trò nào đó trong các cuộc bầu cử tại các nước từ Brazil đến Mỹ, trở nên trò trẻ con không đáng nói. Jeremy Fleming, người đứng đầu GCHQ, đã cảnh báo nội các Mỹ rằng thông tin sai lệch do AI viết ra sẽ là một mối đe dọa đáng kể.
Harari nói: “Điều này đặc biệt là mối đe dọa đối với các nền dân chủ hơn là đối với các chế độ độc tài bởi vì các nền dân chủ dựa vào các cuộc đối thoại công khai. Nền dân chủ về cơ bản là đối thoại. Mọi người nói chuyện với nhau. Nếu cuộc trò chuyện bị AI tiếp quản, nền dân chủ sẽ kết thúc.”
Nhưng công nghệ này có thể có tác dụng gì nếu được các chế độ toàn trị tung ra một cách ác ý trên chiến trường? Ví dụ, một hệ thống AI của Google đã tự học tiếng Bengali mà không được đào tạo để làm như vậy.
“Chế độ Đức quốc xã dựa trên các công nghệ như tàu hỏa, điện và radio. Harari nói: “Họ không có những công cụ như trí tuệ nhân tạo. Một chế độ mới trong thế kỷ 21 sẽ có nhiều công cụ mạnh mẽ hơn. Vì vậy, hậu quả có thể thảm khốc hơn nhiều. Tôi không biết liệu loài người có thể tồn tại được hay không nữa.”
Ông nói, thậm chí nhiều hậu quả tầm thường hơn cũng có khả năng trở thành một cuộc cách mạng. “Một mối nguy hiểm khác là nhiều người có thể thấy mình hoàn toàn mất việc làm, không chỉ tạm thời mà còn thiếu các kỹ năng cơ bản cho thị trường việc làm trong tương lai. Chúng ta có thể đạt đến điểm mà hệ thống kinh tế coi hàng triệu người là hoàn toàn vô dụng. Điều này có những hậu quả khủng khiếp về tâm lý và chính trị.”
Chính sự tự chủ của AI đã khiến nó trở nên khác biệt. Tuy nhiên, ngay cả Harari, người đã làm nên tên tuổi của mình trong những chủ đề phức tạp, dường như thất vọng vì không thể khiến những người còn lại trong chúng ta nhìn nhận điều này một cách sâu sắc như ông ấy.
“Chúng ta cần hiểu rằng AI là công nghệ đầu tiên trong lịch sử có thể tự đưa ra quyết định. Nó có thể đưa ra quyết định về cách sử dụng của chính nó. Nó cũng có thể đưa ra quyết định về bạn và tôi. Đây không phải là một dự đoán trong tương lai. Điều này đã xảy ra rồi.”
Harari thảo luận về các trường hợp nổi tiếng trong đó phần mềm AI đã được sử dụng để kiểm tra những người xin vay tiền hoặc quyết định liệu các tù nhân có nên được tạm tha hay không. “Vì vậy, lần đầu tiên trong lịch sử, quyền lực đang dịch chuyển. Chúng ta đã phát minh ra một thứ lấy đi sức mạnh của chúng ta. Và việc này diễn ra quá nhanh đến nỗi hầu hết mọi người thậm chí không hiểu chuyện gì đang xảy ra. Chúng ta cần đảm bảo rằng AI sẽ đưa ra những quyết định đúng đắn về cuộc sống của chúng ta. Đây là điều mà chúng ta còn rất lâu mới giải quyết được.”
Giống như những người khác, giờ đây Harari tán thành quy định để quản lý sức mạnh của AI – khai thác khả năng của nó và ngăn chặn thảm họa. Trong suy nghĩ của Harari, những quy tắc như vậy sẽ mô phỏng các biện pháp bảo vệ y tế. “Một công ty dược phẩm không thể đưa một loại thuốc mới ra thị trường mà không trải qua một quy trình quản lý lâu dài. Thật kỳ lạ và đáng sợ khi các tập đoàn có thể phát hành các công cụ AI cực kỳ mạnh mẽ ra công chúng mà không có bất kỳ biện pháp kiểm soát an toàn tương tự nào.”
Ông khẳng định các biện pháp như vậy sẽ phải được chính phủ Mỹ thực thi. Mong đợi ngành công nghệ tự điều chỉnh là chuyện không tưởng. “Với tất cả sự tôn trọng dành cho Elon Musk và Zuckerberg hoặc những người đứng đầu khác của các công ty công nghệ lớn, họ không được bầu bởi bất kỳ ai, không đại diện cho bất kỳ ai ngoại trừ các cổ đông của họ và không có lý do gì để tin tưởng họ.” Như để chứng minh quan điểm của Harari, Musk đã công bố chatbot AI của riêng mình chỉ vài ngày sau khi ký vào bức thư tố cáo nghiên cứu AI của các công ty khác.
Có lẽ không có gì ngạc nhiên khi Harari luôn tắt điện thoại của mình, “đặt nó trong ngăn kéo”. Ông gọi nó là “chiếc điện thoại thông minh khẩn cấp” khi ông đi du lịch nước ngoài, và số lần đi ra nước ngoài này nhiều hơn đáng kể trong thập kỷ qua, kể từ khi Harari trở thành một siêu sao tri thức toàn cầu.
“Thực sự không thể làm được một số việc nếu không có điện thoại thông minh.” Người ta chỉ nhớ về việc Harari cố gắng gọi taxi trong một chuyến du lịch nước ngoài và không thành công. Tuy nhiên, điều Harari không muốn xem trên màn hình điện thoại của ông là chuỗi thông tin gây mất tập trung đang cố tràn vào não ông. Harari tuyên bố mình đang “ăn kiêng thông tin”.
“Có quá nhiều thông tin rác,” ông nói. “Nó giống như thức ăn. Trong phần lớn lịch sử loài người, chúng ta đã cố gắng hết sức để có thêm thức ăn. Và bây giờ chúng ta đang ở trong tình thế ngược lại. Chúng ta cần phải rất cẩn thận về cả số lượng cũng như chất lượng thực phẩm mà chúng ta ăn vào.”
Ông đối chiếu sự tập trung và lựa chọn chủ động liên quan đến việc “đọc” với việc “tiêu thụ” thông tin thụ động, mắt liên tục chuyển động này. Thật khó để tưởng tượng Harari làm bất cứ điều gì một cách thiếu suy nghĩ như vậy. Ông thích dành thời gian và sự yên tĩnh để sáng tác những tư tưởng của mình, và từ lâu đã thích thiền định để đảm bảo rằng ông được điều chỉnh tinh thần để tránh bị phân tâm. Harari nói: “Tôi vừa trở về sau một khóa tu thiền kéo dài hai tháng. “Bạn có thể nói đó là một phần của chế độ ăn kiêng thông tin… một khoảng thời gian để ngắt kết nối và cho phép tâm trí tự giải độc khỏi tất cả những thứ rác rưởi mà chúng ta lỡ tiếp nhận.”
Harari có thể dành nhiều thời gian cho sự an toàn tài chính mà danh tiếng của ông đã mang lại (trong một bài báo trên tờ New Yorker, người ta cho rằng phí thuê Harari một bài phát biểu dài 24 phút lên tới vài trăm nghìn đô la). Nhưng niềm yêu thích thiền định của Harari có trước thành công của ông, và bản năng biết dừng lại, suy ngẫm về những chủ đề lớn và tạo mối liên hệ giữa chúng vẫn còn xa hơn nữa, khi ông nhận ra rằng việc lớn lên như một người đồng tính nam khiến Harari trở thành một người đứng ngoài cuộc, nhìn vào phần còn lại của xã hội, và cố gắng giải thích nó. Ông nói: “Những năm 1980, Israel rất kỳ thị người đồng tính.”
Harari lớn lên gần Haifa, phía bắc Israel, là đứa con út thông minh sớm (ông có hai chị gái) của Shlomo – một nhà thầu quốc phòng – và Pnina Harari. Ở tuổi thiếu niên, Harari đã đặc biệt ưa thích môn lịch sử thời trung cổ, môn học mà ông đã học tại Đại học Do Thái ở Jerusalem cho đến năm 1998, khi ông chuyển đến Đại học Jesus, Oxford để hoàn thành bằng Tiến sĩ.
Harari trở lại Israel vào năm 2003, năm mà Hebrew U (được biết đến với tên gọi Đại học Hebrew), bắt đầu dạy một khóa học vỡ lòng dành cho sinh viên chưa tốt nghiệp có tên là “Giới thiệu về Lịch sử Thế giới”. Với tư cách là chuyên gia, các học giả lâu đời có xu hướng né tránh một khóa học rộng lớn như vậy, vì vậy Harari, một thành viên mới và cấp dưới của khoa, đã nhận thấy mình đang dạy nó. Vì lo lắng, ông đã viết sẵn giáo án cho 20 bài giảng của mình. Chúng đã trở thành nền tảng của cuốn Sapiens.
Nhưng nói như vậy chỉ làm cho con đường đến với danh tiếng và sự giàu có của Harari có vẻ đơn giản. Trên thực tế, bản thảo của Sapiens đã nhiều lần bị từ chối ở Israel, và sau đó, khi nó cuối cùng cũng tìm được nhà xuất bản, nó đã mòn mỏi không được dịch trong vài năm. Harari thậm chí còn tự dịch sang tiếng Anh và sử dụng dịch vụ in sách theo yêu cầu của Amazon.
Đó là một cuộc đấu tranh mà Harari có thể không đủ quyết tâm theo đuổi nếu không có sự can đảm của chồng của ông, Itzik Yahav, người mà Harari đã gặp gỡ qua một trang web hẹn hò vào năm 2002. Yahav không chỉ giúp sự nghiệp của Harari khởi sắc, ông ấy còn là nhân tố chủ chốt. yếu tố đảm bảo rằng sau đó Harari đã thăng tiến rất cao, đến mức giờ đây Harari có một văn phòng đầy đủ nhân viên khiến những trí thức công cộng khác phải ghen tị. “Nếu chỉ có mình tôi, tôi đã gục ngã hoặc bỏ cuộc từ lâu rồi,” Harari từng nói về Yahav.
Kể từ đó, Harari đã xuất bản hai cuốn sách lịch sử nội dung sâu rộng khác – Homo Deus (2016) và 21 bài học cho thế kỷ 21 (2018). Năm ngoái, ông đã phát hành cuốn sách thiếu nhi đầu tiên của mình, Unstoppable Us: How Humans Took Over the World, và Sapiens cũng đã được chuyển thể thành một bộ tiểu thuyết đồ họa. Nhưng mối bận tâm cấp bách nhất của ông hiện nay là tình trạng của quốc gia mình, đáng chú ý là các kế hoạch của liên minh do Benjamin Netanyahu lãnh đạo nhằm cắt giảm quyền lực của Tòa án Tối cao Israel, cơ quan hiện đóng vai trò là chiếc phanh duy nhất đối với quyền lập pháp.
“Về cơ bản, chính phủ Israel đang cố gắng thiết lập một chế độ độc tài ở đây,” Harari nói, một khía cạnh trong cách phân phối có phương pháp thường được ông sử dụng. “Tôi nghĩ rằng có một mối đe dọa thực sự đối với sự tồn tại của nền dân chủ Israel.” Ông nói rằng việc người Israel và các công ty Israel rời đi là “hoàn toàn đúng” vì “chính phủ đang cố gắng phá bỏ sự kiểm tra và cân bằng của nền dân chủ Israel”.
“Ví dụ, nếu quốc hội Israel thông qua một đạo luật lấy đi quyền bầu cử của các công dân Ả Rập – và một số chính trị gia đã nói về chính xác một đạo luật như vậy – thì cơ quan duy nhất có thể can thiệp, hủy bỏ một đạo luật như vậy là Tòa án Tối cao. ”
Harari nói rằng một số thành viên của liên minh muốn có thể “gian lận bầu cử”, “đã chuẩn bị sẵn một danh sách dài các luật và quy định sẽ phân biệt đối xử với công dân Ả Rập, với phụ nữ, với người LGBT, với người thế tục” và “giữ quan điểm thiên sai và có niềm tin mãnh liệt vào quyền tối thượng của người Do Thái.”
Ông nói: “Mặc dù các biện pháp này đã bị tạm dừng sau các cuộc biểu tình lớn trên đường phố nhưng cuộc khủng hoảng vẫn đang tiếp diễn. Và nếu chính phủ thành công thì Israel sẽ đi theo con đường giống như Thổ Nhĩ Kỳ và Nga – những nước vẫn có thể tổ chức các cuộc bầu cử định kỳ, nhưng không còn là các nền dân chủ thực sự nữa”.
Ông nói, so sánh chính phủ Israel với sự cai trị của Viktor Orban ở Hungary là không đúng chỗ, bởi vì Israel là “một cường quốc quân sự lớn với năng lực hạt nhân, cũng như năng lực mạng thực sự có phạm vi toàn cầu. Người dân ở Vương quốc Anh nên quan tâm đến những gì đang xảy ra ở Israel vì nó có thể gây bất ổn cho toàn bộ Trung Đông với những hậu quả ngay lập tức đối với châu Âu”.
Thời gian của tôi với nhà tiên tri đang trôi qua đến những phút cuối. Nếu tôi phải trả tiền phí thì bây giờ tôi đã phải trả hơn một triệu đô la rồi. Chúng tôi bàn về cuộc chiến Ukraine (“hậu quả đối với toàn thể nhân loại có thể là bi thảm”); biến đổi khí hậu (“Tôi nghe mọi người nói rằng biến đổi khí hậu là điều mà các nền dân chủ vốn dĩ không có khả năng giải quyết vì nó là một vấn đề lâu dài. Tôi không nghĩ điều đó đúng.”); phong tỏa do Covid (“trong giai đoạn đầu của đại dịch, khi chúng ta chưa biết mình đang phải đối mặt với điều gì, thì các biện pháp cực đoan sẽ hợp lý hơn”); quyền của người chuyển giới (“Quan điểm cá nhân của tôi là truyền thống. Tôi nghĩ rằng giới tính là một hiện tượng sinh học khách quan trong khi giới tính là văn hóa”); lễ đăng quang tại Anh (“Thật khó ở một quốc gia đơn lẻ để có hàng chục triệu người sống cùng nhau và đồng ý về bất cứ điều gì. Ở Anh, gia đình Hoàng gia có một vai trò biểu tượng rất quan trọng”). Cuối cùng, chúng tôi kết thúc bằng cách nói về hạnh phúc. Harari kết luận kiểu Sapiens bằng cách lưu ý rằng, mặc dù sự thịnh vượng của chúng ta đã tăng lên rất nhiều, loài người “dường như vẫn bất mãn hơn bao giờ hết”. Điều tương tự có xảy ra với bản thân ông ấy không?
“Cuộc đời tôi hoàn toàn thay đổi [vì sự nổi tiếng],” ông nói. “Mười năm trước không ai muốn phỏng vấn tôi về bất cứ điều gì. Vì vậy, tôi đã có rất nhiều thời gian để đọc sách và sau đó viết những tư tưởng của mình. Nổi tiếng ở cấp độ cá nhân, nó thường chỉ tạo ra nhiều vấn đề hơn.” Tuy nhiên, cân bằng lại thì bạn bè, thiền định và trị liệu, và rũ bỏ những lo lắng của tuổi trẻ, tất cả đều có nghĩa là “Bây giờ tôi hạnh phúc hơn”.
Đó là một cách lạc quan để kết thúc cuộc thảo luận với một người, giống như một số nhà tiên tri cổ xưa, thỉnh thoảng bị chỉ trích vì đã đưa ra những phân tích u ám về tình trạng của loài người nhưng lại không đưa ra phương pháp chữa trị nào (cuốn sách nổi tiếng nhất của ông kết luận: “Chế độ của con người trên Trái đất đã đã tạo ra rất ít thứ mà chúng ta có thể tự hào”).
Nhưng vào thời điểm chúng tôi kết thúc cuộc nói chuyện, Harari không có khả năng mô tả một cách tao nhã quá nhiều các thảm họa tiềm tàng mà tôi cảm thấy vô cùng lo lắng, cũng như việc Harari không thể nói tại sao loài người chúng ta lại có thói quen tàn phá như vậy. Những lời của ông vang vọng bên tai tôi: “Điều tốt nhất tôi có thể nói là lịch sử đầy rẫy những sai lầm. Rất nhiều sự kiện lớn không phải là kết quả của một số lực lượng không thể tránh khỏi của lịch sử. Chúng chỉ đơn giản là kết quả của việc con người mắc phải những sai lầm khủng khiếp. Điều cơ bản bạn cần giả định là mọi người đều có thể sai lầm. Con người là tệ hại, đầy những hỏng hóc. Một thể chế tốt hay một đất nước tốt là một thể chế có cơ chế tự điều chỉnh mạnh mẽ.”
Giống như Tòa án Tối cao của Israel. Harari cho rằng, đó là một bài học không chỉ là chìa khóa cho sự tồn tại của quốc gia Israel của ông với tư cách là một nền dân chủ, mà còn cho sự tồn tại của thế giới.
https://www.telegraph.co.uk/news/2023/04/23/yuval-noah-harari-i-dont-know-if-humans-can-survive-ai/
