(Những người lo ngại nhất về những rủi ro của trí tuệ nhân tạo, Artificial Intelligence – AI, đã quyết định họ phải là người xây dựng nó. Chính sự mất lòng tin đã thúc đẩy một cuộc cạnh tranh ngày càng gia tăng)
07/2015 Elon Musk tổ chức sinh nhật lần thứ 44 của mình: bữa tiệc kéo dài ba ngày do vợ ông tổ chức tại một khu resort nổi tiếng bởi rượu vang ngon ở California với nhiều căn cabin. Chỉ có gia đình và bạn bè, những đứa trẻ chạy đùa quanh khu bất động sản cao cấp ở vùng Thung lũng Napa. Sự kiện ấy diễn ra nhiều năm trước khi Twitter trở thành X và Tesla có một năm tài chính lãi đầu tiên. E.Musk và vợ, Talulah Riley – nữ diễn viên đóng vai một người máy xinh đẹp nhưng nguy hiểm trong loạt phim khoa học viễn tưởng “Westworld” của HBO – còn sống với nhau 1 năm nữa trước khi kết thúc cuộc hôn nhân thứ hai của họ. Larry Page, một vị khách dự tiệc, vẫn đang là CEO của Google. Còn khái niệm “Trí tuệ nhân tạo – AI” cũng mới đi vào ý thức cộng đồng chỉ vài năm trước, khi nó được sử dụng để nhận dạng mèo trên YouTube với độ chính xác 16%. AI là chủ đề chính của cuộc trò chuyện giữa E.Musk và L.Page khi họ ngồi cạnh đống lửa bên cạnh bể bơi sau bữa tối đêm đầu tiên. Hai tỷ phú là bạn bè hơn chục năm và E.Musk thỉnh thoảng nói đùa rằng anh đôi khi ngã vật ra bộ ghế sofa của L.Page sau suốt một đêm chơi điện tử.
Nhưng giọng điệu trò chuyện trong buổi tối trời quang đãng đó nhanh chóng trở thành cuộc tranh cãi khi cả hai tranh luận liệu AI cuối cùng sẽ nâng cao tiềm lực của con người hay tiêu diệt nó. Khi cuộc tranh cãi kéo dài đến những giờ se lạnh, nó trở nên căng thẳng và một số trong hơn 30 người dự tiệc đã tiến lại gần hơn để lắng nghe. L.Page, hơn một thập kỷ bị một căn bệnh bất thường ở dây thanh quản, đã thì thầm mô tả tầm nhìn của anh ta về một xã hội số không tưởng. Anh ta cho rằng con người cuối cùng sẽ hợp nhất với những cỗ máy có trí tuệ nhân tạo. Một ngày nào đó sẽ có nhiều loại trí tuệ cùng tranh giành các nguồn tài nguyên và loại trí tuệ tốt nhất sẽ giành chiến thắng. E.Musk nói: “Nếu điều đó xảy ra, chúng ta sẽ bị diệt vong. Những cỗ máy sẽ hủy diệt loài người”. Với một chút thất vọng, L.Page khẳng định nên theo đuổi những điều không tưởng của mình. Cuối cùng, L.Page gọi E.Musk là “specieist”, một người ủng hộ con người hơn các dạng sống kỹ thuật số trong tương lai.
(ND: Triết lý specieism cho rẳng con người đứng trên muôn loài nên có thể bóc lột, giết, ăn thịt các loài khác và thường bị hiểu theo nghĩa tiêu cực còn là những người có xu thế phân biệt chủng tộc).
E.Musk sau này nói rằng đó là sự xúc phạm và là “giọt nước tràn ly”.
Nhiều người trong đám đông có vẻ sửng sốt, nếu không nói là thích thú, khi giải tán trong đêm và coi đó chỉ là một trong những cuộc tranh luận bí truyền thường nổ ra ở các cuộc ăn nhậu ở Thung lũng Silicon.
Nhưng tám năm sau, cuộc tranh cãi giữa hai người đàn ông ấy dường như là lời sấm truyền. Câu hỏi: liệu trí tuệ nhân tạo sẽ nâng cao tiềm lực loài người hay sẽ phá hủy nó – hay ít nhất là gây ra thiệt hại nghiêm trọng cho con người – đã tạo nên một cuộc tranh luận gay gắt diễn ra giữa những người sáng lập Thung lũng Silicon, những người dùng chatbot, các học giả, các nhà lập pháp và những nhà quản lý về việc liệu công nghệ này cần được kiểm soát hay cứ kệ nó tự do phát triển.
Cuộc tranh luận đó đã khiến một số người giàu nhất thế giới đối đầu đọ sức nhau: E.Musk, L.Page, Mark Zuckerberg của Meta, nhà đầu tư công nghệ Peter Thiel, Satya Nadella của Microsoft và Sam Altman của OpenAI. Tất cả đều chiến đấu nhằm giành được một phần trong miếng bánh kinh doanh AI – thứ mà một ngày nào đó có thể trị giá hàng nghìn tỷ USD – và quyền định hình nó.
Trọng tâm của cuộc chiến này là một nghịch lý căng não. Những người nói rằng họ lo lắng nhất về AI lại chính là những người quyết tâm nhất để tạo ra nó và làm ra tài sản từ nó. Họ biện minh cho tham vọng của mình bằng niềm tin mãnh liệt rằng chỉ có họ mới có thể kìm giữ được AI để AI không gây nguy hiểm cho Thế giới.
E.Musk và L.Page ngừng giao tiếp với nhau sau bữa tiệc mùa hè năm đó. Vài tuần sau, E.Musk có bữa ăn tối với Sam Altman, người lúc đó đang điều hành một vườn ươm công nghệ và một số nhà nghiên cứu trong phòng riêng tại khách sạn Rosewood ở Menlo Park, California – một địa điểm giao dịch được ưa chuộng bên cạnh mấy văn phòng công ty đầu tư rủi ro của Sand Hill Road. Bữa ăn tối đó đã dẫn đến việc thành lập một công ty khởi nghiệp có tên OpenAI vào cuối năm. Được hỗ trợ hàng trăm triệu USD từ E.Musk và các nhà tài trợ khác, phòng thí nghiệm này cam kết sẽ bảo vệ thế giới khỏi tương lai theo cách nhìn của L.Page.
Nhờ chatbot ChatGPT, OpenAI đã thay đổi căn bản ngành công nghệ và giới thiệu với thế giới những rủi ro cũng như tiềm năng của trí tuệ nhân tạo. Theo hai người thạo tin với vòng cấp vốn mới nhất của công ty, OpenAI được định giá hơn 80 tỷ USD, mặc dù mối quan hệ hợp tác giữa E.Musk và S.Altman cuối cùng đã không kéo dài. Hai người từ đó không nói chuyện nữa.
S.Altman nói: “Có sự bất đồng, nghi ngờ, cái tôi. Mọi người càng cùng chí hướng thì những bất đồng càng gây tranh cãi. Bạn thấy điều này trong các giáo phái và các dòng tu. Những cuộc tranh cãi gay gắt nhất chính là giữa những người quan điểm tương đồng nhất.”
Tháng trước, cuộc đấu đá nội bộ đó đã bùng phát trong nội bộ HĐQT OpenAI. Các thành viên HĐQT nổi loạn đã cố gắng loại bỏ S.Altman vì họ cho rằng họ không còn có thể tin tưởng để giao S.Altman xây dựng AI nhằm mang lại lợi ích cho nhân loại. Trong năm ngày hỗn loạn, OpenAI suýt nữa tan rã, cho đến khi HĐQT – bị gây áp lực bởi các nhà đầu tư và phần lớn nhân viên đe dọa sẽ theo S.Altman rời khỏi OpenAI – phải lùi bước.
Bi kịch bên trong OpenAI đã chỉ ra cho thế giới cái nhìn đầu tiên về mối hận thù sâu sắc giữa những người sẽ quyết định tương lai của AI.
Nhưng nhiều năm trước sự kiện OpenAI gần như sụp đổ ấy, đã có một cuộc cạnh tranh khốc liệt nhưng ít được công bố rộng rãi ở Thung lũng Silicon để giành quyền kiểm soát công nghệ hiện đang nhanh chóng định hình lại thế giới, từ cách dạy trẻ em cho đến cách tiến hành các cuộc chiến tranh. Tờ New York Times đã trò chuyện với hơn 80 Thành viên HĐQT điều hành (Executive Director), nhà khoa học và doanh nhân, trong đó có hai người từng tham dự bữa tiệc sinh nhật của E. Musk năm 2015, để được nghe câu chuyện về tham vọng, nỗi sợ hãi và tiền bạc đó.
SỰ RA ĐỜI CỦA DEEPMIND
Năm năm trước bữa tiệc ở Thung lũng Napa và hai năm trước khi con mèo đột phá trên YouTube, Demis Hassabis, một nhà thần kinh học 34 tuổi, bước vào một bữa tiệc cocktail tại ngôi nhà của Peter Thiel ở San Francisco và nhận ra rằng mình đã trúng số. Trong phòng khách của P.Thiel, nhìn ra Cung Mỹ thuật của thành phố và đầm thiên nga, có một bàn cờ. Tiến sĩ Hassabis từng là kỳ thủ xuất sắc thứ hai thế giới ở lứa tuổi dưới 14.
Tiến sĩ Hassabis nói: “Tôi đã chuẩn bị cho cuộc gặp đó cả năm. Tôi nghĩ đó sẽ là điểm nhấn độc đáo của tôi: Tôi biết anh ấy yêu thích cờ vua.”
Vào năm 2010, Tiến sĩ Hassabis và hai đồng nghiệp, tất cả đều sống ở Anh, đang tìm kiếm nguồn tài chính để bắt đầu xây dựng “Trí thông minh nhân tạo tổng hợp” – Artificial General Intelligence – một cỗ máy có thể làm bất cứ điều gì mà bộ não có thể làm. Vào thời điểm đó, rất ít người quan tâm đến AI. Bởi sau nửa thế kỷ nghiên cứu, lĩnh vực trí tuệ nhân tạo đã thất bại trong việc cung cấp thứ gì đó giống với bộ não con người.
Tuy nhiên, một số nhà khoa học và nhà tư tưởng đã tập trung tìm cách khắc phục những nhược điểm của AI. Nhiều người, giống như ba chàng trai trẻ đến từ Anh, có mối liên hệ với Eliezer Yudkowsky, một triết gia internet và nhà nghiên cứu tự học về AI. Ông Yudkowsky là người lãnh đạo một cộng đồng gồm những người tự gọi mình là những người theo chủ nghĩa duy lý hoặc những năm sau này là những người theo chủ thuyết vị tha hiệu quả – Effective Altruism
(ND: chủ nghĩa vị tha hiệu quả là một phong trào chủ trương sử dụng bằng chứng và lý trí để tìm ra cách mang lại lợi ích cho người khác nhiều nhất có thể và hành động trên cơ sở đó. Những người vị tha hiệu quả chọn nghề nghiệp dựa trên mức độ tốt đẹp mà họ mong đợi sự nghiệp đạt được hoặc quyên góp cho các tổ chức từ thiện dựa trên mục tiêu tối đa hóa tác động tích cực. Họ có thể làm việc dựa trên việc sắp xếp thứ tự ưu tiên cho các dự án khoa học, dự án khởi nghiệp và các sáng kiến chính sách nhằm cứu được nhiều mạng sống nhất hoặc giảm bớt đau khổ nhiều nhất cho nhân loại).
Họ tin rằng AI có thể tìm ra cách chữa bệnh ung thư hoặc giải quyết các vấn đề biến đổi khí hậu, nhưng họ cũng quan ngại rằng AI có thể làm những việc mà người tạo ra chúng không muốn. Những người theo chủ nghĩa duy lý lập luận rằng nếu máy móc trở nên thông minh hơn con người, thì máy móc có thể tấn công người tạo ra chúng.
P.Thiel đã trở nên vô cùng giàu có nhờ khoản đầu tư ban đầu vào Facebook và nhờ làm việc với E.Musk trong những ngày đầu của PayPal. Anh ta vốn bị mê hoặc bởi ý tưởng “Điểm kỳ dị”, một câu chuyện khoa học viễn tưởng mô tả thời điểm mà công nghệ thông minh không còn bị con người kiểm soát nữa.
Với sự tài trợ nhận được từ P.Thiel, E.Yudkowsky đã mở rộng phòng thí nghiệm AI và tổ chức một hội nghị thường niên về điểm kỳ dị. Ấy là nhờ mấy năm trước, một trong hai đồng nghiệp của Tiến sĩ Hassabis đã gặp E.Yudkowsky và ông ta đã kiếm cho họ một suất phát biểu tại hội nghị, và hứa rằng họ sẽ được mời đến bữa tiệc của P.Thiel.
E.Yudkowsky đã giới thiệu Tiến sĩ Hassabis với P.Thiel. Tiến sĩ Hassabis cho rằng rất nhiều người trong bữa tiệc sẽ cố gắng xin tiền chủ nhà. Chiến lược của ông là sắp xếp một cuộc gặp khác. Ông nói với P.Thiel rằng có một khác biệt sâu sắc trong việc hiểu con Tượng và con Mã. Hai quân cờ có giá trị như nhau, nhưng chỉ những người chơi cờ giỏi nhất mới hiểu rằng sức mạnh của chúng rất khác nhau.
Cách nói rất hiệu quả. Bị quyến rũ, P.Thiel mời cả nhóm quay lại vào ngày hôm sau tụ tập trong bếp. Chủ nhà vừa kết thúc buổi tập thể dục buổi sáng và vẫn đang toát mồ hôi trong bộ đồ thể thao ướt đẫm. Một quản gia đưa cho anh ta một lon Coca Diet. Cả ba trình bày bản chào đầu tư, và ngay sau đó P.Thiel với công ty đầu tư mạo hiểm của ông đã đồng ý đầu tư 1,4 triệu bảng Anh (khoảng 2,25 triệu USD) vào công ty khởi nghiệp của họ. Ông là nhà đầu tư lớn đầu tiên của họ.
Họ đặt tên công ty là DeepMind, ám chỉ “học sâu”, một cách để hệ thống AI học các kỹ năng bằng cách phân tích một lượng lớn dữ liệu; đến khoa học thần kinh; và siêu máy tính Deep Thought trong tiểu thuyết khoa học viễn tưởng “The Hitchhiker’s Guide to the Galaxy”. Vào mùa thu năm 2010, họ đã chế tạo được cỗ máy mơ ước của mình. Họ hết lòng tin tưởng rằng vì họ hiểu rõ những rủi ro nên họ có vị trí độc nhất vô nhị để bảo vệ thế giới.
Mustafa Suleyman, một trong ba người sáng lập DeepMind, cho biết: “Tôi không coi đây là một vai trò mâu thuẫn. Có những lợi ích to lớn đến từ những công nghệ này. Mục tiêu không phải là loại bỏ chúng hoặc tạm dừng sự phát triển của chúng. Mục tiêu là để giảm thiểu những nhược điểm của chúng.”
Sau khi thuyết phục được P.Thiel, Tiến sĩ Hassabis tìm cách tiếp cận E.Musk. Khoảng hai năm sau, họ gặp nhau tại một hội nghị do quỹ đầu tư của P. Thiel tổ chức, bởi quỹ cũng đồng thời rót tiền vào công ty SpaceX của E.Musk. Tiến sĩ Hassabis đã thu xếp được một chuyến tham quan trụ sở SpaceX. Sau đó hai người đàn ông ăn trưa trong căng tin và trò chuyện, với vỏ tên lửa treo trên trần nhà.
E.Musk giải thích rằng ông có kế hoạch đổ bộ lên sao Hỏa để thoát khỏi tình trạng quá đông dân số và những mối nguy hiểm khác trên Trái đất. Tiến sĩ Hassabis trả lời rằng kế hoạch sẽ thành công – miễn là những cỗ máy siêu thông minh cũng không bám theo sau đó và sẽ tiêu diệt loài người trên Sao Hỏa.
E.Musk không nói nên lời. Anh ta chưa hề nghĩ đến mối nguy hiểm đặc biệt ấy. E.Musk ngay sau đó đã đầu tư vào DeepMind cùng với P.Thiel để có thể tiến gần hơn đến việc tạo ra công nghệ này.
Với lượng tiền mặt dồi dào đổ vào, DeepMind đã thuê các nhà nghiên cứu chuyên về “Mạng lưới thần kinh – Neuron Network – NN” là các thuật toán phức tạp được tạo ra nhằm mô phỏng bộ não con người. NN về cơ bản là một hệ thống thuật toán khổng lồ dành hàng ngày, hàng tuần hoặc thậm chí hàng tháng để xác định các mẫu trong một lượng lớn dữ liệu kỹ thuật số. Được phát triển lần đầu tiên vào những năm 1950, các hệ thống này có thể tự học cách xử lý các nhiệm vụ được giao. Chẳng hạn, sau khi phân tích tên và địa chỉ được viết nguệch ngoạc trên hàng trăm cái phong bì, nó có thể đọc được văn bản viết tay.
DeepMind đã đưa khái niệm này đi xa hơn. Nó đã xây dựng một hệ thống có thể học cách chơi các trò chơi Atari cổ điển như Space Invaders, Pong và Breakout để minh họa những gì nó có thể làm.
Điều này đã thu hút sự chú ý của một cường quốc công nghệ ở Thung lũng Silicon: Google, và đặc biệt là Larry Page. Anh ta đã nhìn thấy màn trình diễn của Deep Mind khi chơi trò chơi Atari. Anh ta muốn có nó.
BÁN ĐẤU GIÁ TÀI NĂNG
Mùa thu năm 2012, Geoffrey Hinton, một giáo sư 64 tuổi tại Đại học Toronto, cùng hai nghiên cứu sinh đã xuất bản một công trình nghiên cứu chỉ cho thế giới thấy AI có thể làm gì. Họ đã đào tạo một NN nhận biết các đồ vật thông thường như hoa, chó và ô tô.
Các nhà khoa học rất ngạc nhiên trước độ chính xác của công nghệ do Tiến sĩ Hinton và các học trò của ông chế tạo. Một trong những người đặc biệt chú ý đến điều ấy là Yu Kai, một nhà nghiên cứu AI, người đã gặp Tiến sĩ Hinton tại một hội nghị nghiên cứu và ngay sau đó đã bắt đầu làm việc cho Baidu, một công ty internet khổng lồ của Trung Quốc. Ba người thạo tin với lời đề nghị này kể lại: Baidu đã đề nghị trả Tiến sĩ Hinton và các sinh viên của ông 12 triệu USD để gia nhập công ty này ở Bắc Kinh.
Tiến sĩ Hinton đã từ chối Baidu nhưng số tiền đã thu hút sự chú ý của ông.
Nhà khoa học nhập cư người Anh được đào tạo ở Cambridge này đã dành phần lớn sự nghiệp của mình với giới học thuật, ngoại trừ thỉnh thoảng làm việc tại Microsoft và Google, và đặc biệt không ham hố tiền bạc cho lắm. Nhưng không may ông ta có một đứa con bị dị tật thần kinh và số tiền đó đồng nghĩa với sự đảm bảo về mặt tài chính cho gia đình ông.
Tiến sĩ Hinton nói: “Chúng tôi không biết mình đáng giá bao nhiêu?”. Ông đã tham khảo ý kiến của các luật sư và chuyên gia về mua bán sáp nhập và đưa ra một kế hoạch táo bạo: “Chúng tôi sẽ tổ chức một cuộc đấu giá và chúng tôi sẽ bán mình”. Cuộc đấu giá sẽ được tổ chức tại thời điểm đang diễn ra một hội nghị về AI trong khách sạn và sòng bạc Harrah trên hồ Tahoe.
Big Techs lập tức để ý. Google, Microsoft, Baidu và các công ty khác bắt đầu hiểu rằng NN là con đường dẫn đến những cỗ máy không chỉ có thể nhìn mà còn có thể nghe, viết, nói và – cuối cùng – suy nghĩ.
L.Page đã thấy công nghệ tương tự tại Google Brain, phòng thí nghiệm AI của Google, và ông nghĩ rằng các nghiên cứu của Tiến sĩ Hinton có thể đẩy nhanh tiến độ công việc các nhà khoa học của anh ta. Anh ta đưa cho Alan Eustace, phó chủ tịch kỹ thuật cao cấp của Google, một tấm séc trắng để thuê bất kỳ chuyên gia AI nào anh ấy cần.
A.Eustace và Jeff Dean, người đứng đầu phòng thí nghiệm Google Brain, đã bay tới Lake Tahoe và mời Tiến sĩ Hinton cùng các sinh viên của ông đi ăn tối tại một quán thịt bò bên trong khách sạn vào đêm trước cuộc đấu giá. Tiến sĩ Dean nhớ lại: mùi thuốc lá cũ nồng nặc. Ở đó họ đã trình bày các lý do nên đến làm việc tại Google.
Ngày hôm sau, Tiến sĩ Hinton điều hành cuộc đấu giá từ phòng khách sạn của mình. Vì vết chấn thương cũ ở lưng nên ông hiếm khi ngồi. Ông ta lật ngược thùng rác đặt lên bàn, đặt máy tính xách tay lên trên và theo dõi các cuộc đấu giá diễn ra trong hai ngày tới.
Google đưa ra một đề nghị. Rồi Microsoft cũng vậy. DeepMind nhanh chóng rút lui khi giá tăng lên. Theo các tài liệu chi tiết về cuộc đấu giá, những gã khổng lồ trong ngành đã đẩy giá thầu lên 20 triệu USD và sau đó là 25 triệu USD. Khi mức giá vượt quá 30 triệu USD, Microsoft đã bỏ cuộc nhưng tham gia trở lại bỏ giá thầu ở mức 37 triệu USD.
Tiến sĩ Hinton nói: “Chúng tôi cảm thấy như đang ở trong phim”.
Sau đó Microsoft lại bỏ cuộc lần thứ hai. Chỉ còn lại Baidu và Google, và họ đã đẩy giá thầu lên 42 triệu USD, 43 triệu USD. Cuối cùng, với giá 44 triệu USD, Tiến sĩ Hinton và các sinh viên của ông đã dừng cuộc đấu giá. Giá thầu vẫn tăng nhưng họ muốn làm việc cho Google. Và số tiền thật đáng kinh ngạc.
Đó là một dấu hiệu rõ ràng cho thấy các công ty có ví tiền dày cộp đã quyết tâm mua những nhà nghiên cứu AI tài năng nhất – điều này không phải là thất bại với Tiến sĩ Hassabis tại DeepMind. Ông luôn nói với nhân viên của mình rằng DeepMind sẽ vẫn là một công ty độc lập. Ông tin rằng đó là cách tốt nhất để đảm bảo công nghệ của nó không trở thành thứ gì đó nguy hiểm.
Nhưng khi Big Tech bước vào cuộc đua nhân tài, ông ta quyết định mình không còn lựa chọn nào khác: Đã đến lúc phải bán mình.
Theo ba người hiểu rõ với vấn đề này, vào cuối năm 2012, Google và Facebook đang nỗ lực mua lại phòng thí nghiệm của Tiến sĩ Hassabis ở London. Tiến sĩ Hassabis và những người đồng sáng lập của ông nhấn mạnh vào hai điều kiện tiên quyết: Không được sử dụng công nghệ DeepMind cho mục đích quân sự và công nghệ AGI phải được giám sát bởi một Hội đồng độc lập gồm các nhà công nghệ và đạo đức.
Google đưa ra mức giá 650 triệu USD. Mark Zuckerberg của Facebook đã đưa ra mức chi trả lớn hơn cho những người sáng lập DeepMind nhưng không đồng ý với các điều kiện. Cuối cùng DeepMind được bán cho Google.
M.Zuckerberg liền quyết chí xây dựng một phòng thí nghiệm AI của riêng mình. Anh ta thuê Yann LeCun, một nhà khoa học máy tính người Pháp, người cũng đã tiên phong thực hiện nghiên cứu AI, vận hành nó. Một năm sau cuộc đấu giá của Tiến sĩ Hinton, M. Zuckerberg và Tiến sĩ LeCun đã cùng bay tới Lake Tahoe để dự chính cái hội nghị về AI ấy. Khi đi loanh quanh trong căn phòng suite ở sòng bạc Harrah với đôi chân chỉ đi tất của mình, Zuckerberg đã đích thân phỏng vấn tuyển dụng các nhà nghiên cứu AI hàng đầu, những người sau đó đã sớm nhận được mức lương và cổ phiếu hàng triệu USD.
AI đã từng bị cười nhạo. Giờ đây, những người giàu nhất Thung lũng Silicon đang chi hàng tỷ USD để không bị bỏ lại phía sau.
HỘI ĐỒNG MẤT ĐẠO ĐỨC
Khi đầu tư vào DeepMind, E.Musk đã phá vỡ luật bất thành văn của chính mình: không đầu tư vào bất kỳ công ty nào mà ông không tự mình điều hành. Sai lầm trong quyết định (thiếu nhất quán) của E. Musk đã lộ rõ khi chỉ một tháng sau cuộc cãi vã tại sinh nhật với L.Page, anh ta lại phải đối mặt với người bạn cũ và đồng nghiệp tỷ phú này.
Dịp này là cuộc họp đầu tiên của Hội đồng đạo đức của DeepMind, vào ngày 14 tháng 8 năm 2015. Hội đồng đã được thành lập theo yêu cầu của những người sáng lập công ty khởi nghiệp DeepMind để đảm bảo rằng công nghệ của họ không gây hại cho loài người sau khi bán. Theo như ba người thạo tin cuộc họp kể, các thành viên Hội đồng đã được triệu tập họp trong một phòng họp ngay bên ngoài văn phòng của E.Musk tại SpaceX, với cửa sổ nhìn ra nhà máy tên lửa của anh ta.
Nhưng đó cũng là nơi và thời điểm quyền kiểm soát của E.Musk kết thúc. Khi Google mua DeepMind, họ đã mua toàn bộ công ty. E.Musk phải rút lui. Về mặt tài chính E.Musk hưởng lợi, nhưng anh ta rất không hài lòng.
Ba thành viên HĐQT điều hành (Executive Director) của Google đang nắm quyền kiểm soát DeepMind đều có mặt ở đó: L.Page, Sergey Brin – đồng sáng lập Google và nhà đầu tư Tesla – và Eric Schmidt Chủ tịch HĐQT Google. Trong số những người khác có Reid Hoffman, một sáng lập viên PayPal và Toby Ord, một triết gia người Úc đang nghiên cứu về “rủi ro hiện sinh”.
Những người sáng lập DeepMind báo cáo rằng họ đang đẩy mạnh công việc của mình nhưng họ nhận thức được rằng công nghệ này tiềm ẩn những rủi ro nghiêm trọng.
Ông Suleyman, người đồng sáng lập DeepMind, đã có bài thuyết trình có tên “The Pitchforker Are Coming – Kẻ cầm chĩa ba (kẻ gây rối) đang tới”. Ông nói với hội đồng rằng AI có thể dẫn đến sự bùng nổ về thông tin sai lệch. Ông lo ngại rằng khi công nghệ thay thế vô số việc làm trong những năm tới, công chúng sẽ cáo buộc Google cướp mất sinh kế của họ. Ông lập luận rằng khi ấy Google sẽ cần phải chia sẻ sự giàu có của mình cho hàng triệu người mất việc làm và cung cấp một mức “thu nhập cơ bản phổ quát” cho họ.
E.Musk đồng tình quan điểm này.
Nhưng khá rõ ràng là những vị khách từ Google chưa sẵn sàng bắt tay vào việc phân phối lại tài sản của họ. E.Schmidt cho biết ông nghĩ những lo lắng đã bị thổi phồng quá mức cần thiết. Bằng lời thì thầm thường ngày, L.Page đồng ý với E.Schmidt. Anh ta lập luận rằng AI sẽ tạo ra nhiều việc làm hơn là lấy đi.
8 tháng sau, DeepMind có bước đột phá khiến cộng đồng AI và thế giới choáng váng. Một cỗ máy DeepMind có tên AlphaGo đã đánh bại một trong những người chơi giỏi nhất thế giới trong trò chơi cờ vây cổ xưa. Trò chơi được phát trực tuyến qua internet và đã được 200 triệu người trên toàn cầu theo dõi. Hầu hết các nhà nghiên cứu đều cho rằng AI chỉ cần thêm 10 năm luyện tập kỹ năng để làm điều đó.
Những người theo chủ nghĩa duy lý, những người theo chủ nghĩa vị tha hiệu quả và những người lo lắng về rủi ro của AI tuyên bố chiến thắng của máy tính đã xác thực nỗi sợ hãi của họ.
“Đây là một dấu hiệu khác cho thấy AI đang tiến bộ nhanh hơn cả những gì nhiều chuyên gia dự đoán.” Victoria Krakovna, người sẽ sớm gia nhập DeepMind với tư cách là nhà nghiên cứu “An toàn AI”, đã viết trong một bài đăng trên blog của mình.
Những người sáng lập DeepMind ngày càng lo lắng về những gì Google sẽ làm với những phát minh của họ. Năm 2017, họ cố gắng tách khỏi công ty. Google phản ứng bằng cách tăng lương và thưởng cổ phiếu cho những người sáng lập DeepMind và nhân viên của họ. Họ ở lại.
Hội đồng đạo đức cũng chưa bao giờ có phiên họp lần thứ hai.
SỰ CHIA TAY
Tin chắc rằng quan điểm lạc quan của L.Page về AI là sai lầm và tức giận vì mất DeepMind, E.Musk đã xây dựng phòng thí nghiệm AI của riêng mình.
OpenAI được thành lập vào cuối năm 2015, chỉ vài tháng sau khi E.Musk gặp Sam Altman tại khách sạn Rosewood ở Thung lũng Silicon. E.Musk đã bơm tiền vào phòng thí nghiệm của S.Altman và những người bạn cũ ở PayPal của E.Musk là R.Hoffman và P.Thiel, cũng tham gia cùng. Ba người đàn ông và những người khác cam kết đầu tư 1 tỷ USD vào dự án mà S.Altman, lúc đó 30 tuổi, sẽ điều hành. Để bắt đầu, họ đã chiêu mộ Ilya Sutskever từ Google. (Tiến sĩ I.Sutskever là một trong những sinh viên tốt nghiệp được Google “mua” trong cuộc đấu giá của Tiến sĩ Hinton).
Ban đầu, E.Musk muốn vận hành OpenAI như một tổ chức phi lợi nhuận, thoát khỏi các mục tiêu lợi ích kinh tế đang thúc đẩy Google và các tập đoàn khác. Nhưng vào thời điểm Google khiến cộng đồng công nghệ phải kinh ngạc với màn trình diễn cờ vây của AlphaGo, Musk đã thay đổi suy nghĩ về cách vận hành nó. E.Musk rất muốn OpenAI phát minh ra thứ gì đó có thể thu hút trí tưởng tượng của thế giới và thu hẹp khoảng cách với Google, nhưng nó sẽ không thể hoàn thành công việc ấy với tư cách là một tổ chức phi lợi nhuận.
Theo bốn người thạo tin, vào cuối năm 2017, E.Musk đã ấp ủ kế hoạch giành quyền kiểm soát phòng thí nghiệm từ tay S.Altman và những người sáng lập khác, đồng thời biến nó thành một định chế thương mại hợp tác với Tesla và dựa vào các siêu máy tính mà công ty ô tô đang phát triển.
Khi S.Altman và những người khác phản đối, E.Musk đã rời khỏi nhóm OpenAI và nói rằng ông sẽ tập trung vào làm AI tại Tesla. Ba người thạo tin cuộc họp cho biết: vào tháng 2 năm 2018, E.Musk tuyên bố rời khỏi đội ngũ của OpenAI trên tầng cao nhất của văn phòng khởi nghiệp trong một nhà máy sản xuất xe tải đã được chuyển đổi. Khi (E.Musk) nói rằng OpenAI cần phải phát triển nhanh hơn, một nhà nghiên cứu đã phản pháo lại tại cuộc họp rằng E.Musk thật liều lĩnh. E.Musk gọi nhà nghiên cứu này là “kẻ ngu ngốc” và quyết định ra đi, mang theo túi tiền nặng ký của mình.
OpenAI đột nhiên cần gấp nguồn tài chính mới. S.Altman bay tới Sun Valley để dự hội nghị và tình cờ gặp Satya Nadella, giám đốc điều hành của Microsoft. Một sự gắn kết có vẻ rất tự nhiên. S.Altman biết giám đốc công nghệ của Microsoft, Kevin Scott. Microsoft đã mua LinkedIn từ ông R.Hoffman, thành viên hội đồng quản trị OpenAI. S.Nadella bảo K.Scott hãy hoàn thành việc đó với OpenAI. Thoả thuận đạt được vào năm 2019.
S.Altman và OpenAI đã thành lập một công ty hoạt động vì lợi nhuận trực thuộc tổ chức phi lợi nhuận ban đầu. Họ có 1 tỷ USD vốn tươi và Microsoft đã có một cách mới để đưa AI vào dịch vụ điện toán đám mây khổng lồ của mình.
Không phải tất cả mọi người trong OpenAI đều vui vẻ.
Dario Amodei, một nhà nghiên cứu có mối quan hệ với cộng đồng “vị tha hiệu quả”, đã có mặt tại khách sạn Rosewood khi OpenAI ra đời. Tiến sĩ Amodei, người không ngừng xoắn những lọn tóc giữa các ngón tay khi nói chuyện, đang lãnh đạo phòng thí nghiệm nhằm nỗ lực xây dựng một NN được gọi là Mô hình Ngôn ngữ Rộng (Large Language Model – LLM) có thể học sâu từ số lượng văn bản kỹ thuật số khổng lồ. Bằng cách phân tích vô số bài viết trên Wikipedia, sách kỹ thuật số và bản tin, LLM có thể tự sáng tác ra văn bản. Nó chỉ có một thói quen xấu đáng tiếc là hay bịa chuyện. Nó được gọi là GPT-3 và được công bố vào mùa hè năm 2020.
Các nhà nghiên cứu bên trong OpenAI, Google và các công ty khác cho rằng công nghệ cải tiến nhanh chóng này có thể là con đường dẫn đến AGI.
Nhưng Tiến sĩ Amodei không hài lòng với thỏa thuận cùng Microsoft vì ông cho rằng nó đang đưa OpenAI đi theo hướng thương mại hoá thực sự. Theo 5 người thạo tin với vấn đề này, ông và các nhà nghiên cứu khác đã đến gặp HĐQT để cố gắng thuyết phục đẩy S.Altman khỏi OpenAI. Sau khi thất bại, họ bỏ đi. Giống như những người sáng lập DeepMind trước đó, họ lo ngại rằng các ông chủ mới của họ sẽ ưu tiên chạy theo lợi ích thương mại hơn là sự an toàn.
Năm 2021, nhóm khoảng 15 kỹ sư và nhà khoa học đã thành lập một phòng thí nghiệm mới mang tên Anthropic. Kế hoạch là xây dựng AI theo cách mà những người có lòng vị tha hiệu quả nghĩ là nên làm – với sự kiểm soát rất chặt chẽ.
Người phát ngôn của Anthropic, Sally Aldous, cho biết: “Những người đồng sáng lập Anthropic không hề cố gắng loại bỏ Sam Altman khỏi OpenAI. Bản thân những người đồng sáng lập đã đi đến kết luận rằng họ muốn rời OpenAI để thành lập công ty riêng của mình, đã thông báo điều này với lãnh đạo của OpenAI và trong vài tuần đã đàm phán về việc rút lui theo các điều khoản mà các bên cùng đồng ý.”
Anthropic đã nhận được khoản đầu tư 4 tỷ USD từ Amazon và 2 tỷ USD khác từ Google hai năm sau đó.
SỰ TIẾT LỘ
Sau khi OpenAI nhận thêm 2 tỷ USD từ Microsoft, S.Altman và một thành viên HĐQT điều hành cấp cao khác, Greg Brockman, đã đến thăm Bill Gates tại biệt thự rộng lớn của ông ta bên bờ Hồ Washington, ngoại ô Seattle. Người sáng lập Microsoft không còn tham gia vào công việc hàng ngày của công ty nhưng vẫn giữ liên lạc thường xuyên với các Thành viên HĐQT điều hành của công ty.
Trong bữa tối, ông Gates nói với họ rằng ông không tin rằng các Mô hình Ngôn ngữ Rộng có thể hoạt động được. B.Gate nói sẽ tiếp tục hoài nghi cho đến khi công nghệ thực hiện một nhiệm vụ đòi hỏi tư duy phản biện – chẳng hạn như vượt qua bài kiểm tra sinh học AP.
Năm tháng sau, vào ngày 24 tháng 8 năm 2022, S.Altman và G.Brockman quay lại và mang theo một nhà nghiên cứu OpenAI tên là Chelsea Voss. Cô Voss từng đoạt huy chương Olympic sinh học quốc tế khi còn là học sinh trung học. S.Nadella và các thành viên HĐQT điều hành của Microsoft cũng có mặt ở đó.
Trên màn hình kỹ thuật số khổng lồ đặt bên ngoài phòng khách của B.Gates, nhóm OpenAI đã trình bày một công nghệ có tên GPT-4.
G.Brockman đã đưa cho hệ thống một bài kiểm tra sinh học nâng cao có nhiều lựa chọn và cô Voss chấm điểm các câu trả lời. Câu hỏi đầu tiên liên quan đến các phân tử phân cực, các nhóm nguyên tử có điện tích dương ở một đầu và đầu kia mang điện tích âm. Hệ thống trả lời đúng và giải thích lựa chọn của mình. G.Brockman nói: “Nó chỉ được đào tạo để đưa ra câu trả lời. Bản chất trò chuyện kiểu như tự sinh ra, quả là kỳ diệu.” Nói cách khác, nó đang làm những việc mà họ thực sự không hề thiết kế nó để làm.
Có 60 câu hỏi. GPT-4 chỉ trả lời sai một câu.
Bill Gates ngồi bật dậy trên ghế, mắt mở to. Năm 1980, ông cũng từng có phản ứng tương tự khi các nhà nghiên cứu cho ông xem giao diện người dùng đồ họa sau đã trở thành nền tảng cho máy tính cá nhân hiện đại. Ông B.Gates nghĩ GPT là một cuộc cách mạng.
Đến tháng 10, Microsoft đã bổ sung công nghệ này vào các dịch vụ trực tuyến của mình, bao gồm cả công cụ tìm kiếm Bing. Và hai tháng sau, OpenAI phát hành chatbot ChatGPT, hiện được 100 triệu người sử dụng mỗi tuần.
OpenAI đã đánh bại những người theo trường phái lòng vị tha hiệu quả tại Anthropic. Những người đi theo L.Page tại Google đã vội vã phát hành chatbot của riêng họ, Bard, nhưng bị nhiều người cho là đã thua trong cuộc đua với OpenAI. Ba tháng sau khi ChatGPT ra mắt, cổ phiếu Google đã giảm 11%. Không thấy E.Musk ở đâu cả.
Nhưng điều đó mới chỉ là sự khởi đầu mà thôi./.
Nguồn: New York Times
Các tác giả:
1. Cade Metz: phóng viên công nghệ và là tác giả cuốn sách “Genius Makers: The Mavericks Who Brought A.I. tới Google, Facebook và Thế giới.” Ông nghiên cứu trí tuệ nhân tạo, ô tô tự lái, robot, thực tế ảo và các lĩnh vực mới nổi khác.
2. Karen Weise: viết về công nghệ và có văn phòng tại Seattle. Tin tức của cô tập trung vào Amazon và Microsoft, hai trong số những công ty quyền lực nhất ở Mỹ.
3. Nico Grant: phóng viên công nghệ đưa tin về Google từ San Francisco. Trước đây ông đã làm việc 5 năm tại Bloomberg News, nơi ông tập trung vào Google và điện toán đám mây.
4. Mike Isaac: phóng viên công nghệ của The Times có trụ sở tại San Francisco. Ông thường xuyên đưa tin về Facebook và Thung lũng Silicon.
5. Susan Beachy: đóng góp nghiên cứu.
Ảnh : Larry Page và Elon Musk ở hai phe đối lập trong cuộc tranh luận về rủi ro của trí tuệ nhân tạo. Hokyoung Kim
Link:
https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html
——-
