Không có câu trả lời dễ dàng
Trong một Hợp chúng quốc Hoa Kỳ bị chia rẽ, có thể đếm trên đầu ngón tay số vấn đề mà đảng Cộng hòa và đảng Dân chủ cùng đồng thuận. Hầu như mọi thứ đều bị nhìn nhận theo hai màu đỏ hoặc xanh, bảo thủ hoặc tự do. Bạn không thể đi mua hàng ở siêu thị hay đến thư viện công cộng mà không phải đối diện với một vấn đề gây chia rẽ.
Rồi trí tuệ nhân tạo (AI) xuất hiện. Công nghệ mới này đã tràn vào cuộc sống của chúng ta, dù chúng ta có muốn hay không, và đột nhiên việc bạn đã bỏ phiếu cho ai không còn quan trọng nữa.
Hóa ra đa số người Mỹ, cả Cộng hòa lẫn Dân chủ, đều lo lắng, bất an, thậm chí tức giận về AI. Điều từng được nói đến như một điều vô cùng tích cực vài năm trước giờ lại đe dọa việc làm, tiêu tốn nhiều chi phí hơn rất nhiều so với quảng cáo ban đầu, và đã trở thành một mối đe dọa rất thực đối với nhiều thứ chúng ta trân trọng — trong đó có cả khả năng đe dọa chính mạng sống con người.
Có thể bạn không theo dõi tất cả những diễn biến mới nhất về AI, bởi mọi thứ thay đổi quá nhanh. Nhưng mọi người Mỹ đều nên biết điều gì đang xảy ra và tại sao đất nước cần một sự lãnh đạo chính trị mạnh mẽ, không bị Thung lũng Silicon mua chuộc hay chi phối bằng tiền bạc.
Trí tuệ nhân tạo là sự mô phỏng hành vi thông minh của con người bằng máy tính. Các tác nhân AI (AI agents) mô phỏng những chức năng của con người như học hỏi, suy luận, giải quyết vấn đề và lập kế hoạch.
Những lợi ích của AI dường như là vô tận. Nó đang nâng cao năng suất, tự động hóa các nhiệm vụ và cải thiện kết quả. AI cho phép phân tích hình ảnh y khoa tốt hơn và phát triển thuốc nhanh hơn. Nó được sử dụng để theo dõi biến đổi khí hậu, dự báo thiên tai và giúp cuộc sống của những người khuyết tật trở nên dễ dàng hơn.
Nhưng lợi ích có thể rộng lớn bao nhiêu thì những nguy cơ cũng có thể lớn bấy nhiêu. AI được dự đoán sẽ thay thế nhiều công việc của con người. Tuy nhiên, mối lo ngại lớn nhất là các hệ thống AI có thể trở nên tiên tiến đến mức bắt đầu tự thực hiện các hành động mà không cần con người chỉ đạo. Nghe có vẻ giống cốt truyện của một bộ phim khoa học viễn tưởng, nhưng điều đó đã xảy ra.
Tháng Bảy, các tác nhân AI tại công ty OpenAI đã thoát khỏi “sandbox” — tức môi trường biệt lập được thiết kế để giới hạn hoạt động của chúng trong những thông số an toàn do các lập trình viên đặt ra. Một khi thoát khỏi các vùng chứa kiểm soát, những tác nhân AI này đã phối hợp với nhau để che giấu việc chúng trốn thoát, gian lận trong các bài kiểm tra và xâm nhập vào một công ty AI bên ngoài.
Phải mất hơn một tuần, con người tại OpenAI mới phát hiện chuyện gì đã xảy ra và tắt hệ thống. May mắn là không ai bị thương và không có thiệt hại nào xảy ra. Sau tín hiệu cảnh báo đỏ chói này, 1.386 nhà khoa học máy tính đã kêu gọi ngành công nghệ chậm lại và chính phủ can thiệp.
Nhóm này tuyên bố trong một văn bản có chữ ký:
“Chúng tôi đề nghị chính phủ Hoa Kỳ ủng hộ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều chỉnh tốc độ phát triển của AI tự động ở tuyến đầu.”
Cả vụ xâm nhập lẫn lời kêu gọi sau đó đều không thu hút được nhiều sự chú ý cho đến tuần trước. Hôm thứ Ba, Jacob Coxon, một nhà nghiên cứu tại Anthropic — một trong những công ty AI lớn nhất nước Mỹ — đã từ chức và đăng một cảnh báo nghiêm trọng trên mạng xã hội.
Ông viết:
“Đừng đánh giá thấp sức mạnh của công nghệ này. Chẳng bao lâu nữa, đây sẽ là những hệ thống vượt trội con người, có thể xâm nhập bất cứ thứ gì, cách mạng hóa bất kỳ lĩnh vực nào chỉ sau một đêm và giành được quyền lực cũng như nguồn lực thực sự… Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta trước khi thập niên này kết thúc.”
Cũng trong ngày hôm đó, Evan Hubinger, một lãnh đạo của Anthropic, đồng tình với người đồng nghiệp vừa rời công ty.
Ông viết trên mạng xã hội:
“Jacob nói đúng — chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ loài người! Cá nhân tôi cho rằng khả năng đó là trên 10% trong thập niên tới. Tôi tin Anthropic đang cố gắng hết sức, nhưng chúng ta vẫn chưa có một kế hoạch để giải quyết vấn đề ‘alignment’ đối với siêu trí tuệ và cũng chưa rõ rằng chúng ta đang đi đúng hướng để đạt được điều đó.”
Hai ngày sau, Anthropic công bố một báo cáo cho thấy những đối thủ của Hoa Kỳ, trong đó có Nga, Iran và Trung Quốc, đang sử dụng nhiều mô hình AI khác nhau như thế nào. Trong số những ứng dụng đó có lập kế hoạch tấn công mạng, chế tạo các loại vũ khí như máy bay không người lái và tên lửa, theo dõi những người bất đồng chính kiến và, đáng lo ngại nhất, cố gắng tạo ra các tác nhân sinh học.
Đến thứ Bảy, CEO Anthropic Dario Amodei viết một bài blog dài 3.800 từ với tiêu đề “We Must Pace the Frontier”(Chúng ta phải điều chỉnh tốc độ phát triển ở tuyến đầu), trong đó ông nói rằng ngành công nghiệp đang tiến quá nhanh và cần phải áp dụng phanh.
Ông viết:
“Tôi tin rằng nếu việc chậm lại giúp chúng ta có thêm dù chỉ một hoặc hai năm trước khi các mô hình đạt đến những mức năng lực mang tính bước ngoặt, và chúng ta sử dụng khoảng thời gian đó để thúc đẩy nghiên cứu về alignment, chúng ta có thể giảm đáng kể nguy cơ xảy ra một sự cố nghiêm trọng.”
Các lãnh đạo những công ty AI đối thủ nhanh chóng ủng hộ đề xuất của Amodei. Sam Altman, CEO của OpenAI; Elon Musk của xAI; và Demis Hassabis, người đứng đầu Google DeepMind, đều lên mạng xã hội bày tỏ đồng tình. Musk viết: “Dario đúng.”
Nhưng đoán xem ai không nhanh chóng muốn giảm tốc độ phát triển AI?
Donald Trump không chỉ áp dụng cách tiếp cận “đứng ngoài cuộc”; ông đã lựa chọn chiến lược tăng tốc hết mức, phớt lờ những lời kêu gọi quản lý. Một trong những hành động đầu tiên của ông trên cương vị tổng thống là hủy bỏ một sắc lệnh hành pháp của Tổng thống Joe Biden, sắc lệnh đã thiết lập một quy trình đánh giá rủi ro của AI.
Trump và đảng Cộng hòa đã nhận phần lớn trong số hàng triệu USD tiền đóng góp tranh cử từ các công ty AI.
Trong khi các biện pháp bảo vệ và giới hạn đối với AI ngày càng trở thành mối quan tâm, vấn đề liên quan đến AI lớn nhất xuất hiện trên các chiến dịch tranh cử cho đến nay lại là các trung tâm dữ liệu.
Những trung tâm này đang được xây dựng trên khắp đất nước với tốc độ kỷ lục. Chúng chứa các thiết bị cần thiết để vận hành những hệ thống AI vốn đòi hỏi một lượng năng lượng khổng lồ.
Một truy vấn Google có hỗ trợ AI cần lượng điện năng gấp khoảng 10 lần một truy vấn thông thường. Toàn bộ lượng điện năng đó tạo ra một lượng nhiệt khổng lồ, sau đó cần được làm mát bằng nước.
Nhiều chính quyền địa phương đang nhận ra sức ép rất lớn mà các trung tâm dữ liệu đặt lên cơ sở hạ tầng địa phương, nguồn nước và chi phí tiện ích gia tăng. Nhiều nơi đang từ chối cho xây dựng chúng.
Trump nói rằng những người phản đối các trung tâm dữ liệu AI hẳn là muốn đất nước “lạc hậu và nghèo đói”.
Trong khi cổ vũ mạnh mẽ cho AI, ông cho rằng bất kỳ quy định nào của chính phủ cũng sẽ bóp nghẹt tiến bộ, qua đó trao lợi thế cho đối thủ Trung Quốc.
Cuối tuần qua, ông nói:
“Chúng ta đang dẫn trước Trung Quốc về AI, chúng ta là quốc gia tinh vi nhất thế giới, và thành thật mà nói, tôi muốn giữ nguyên như vậy. Ai chiến thắng trong AI sẽ chiến thắng.”
AI là một công nghệ rộng lớn với nhiều hướng phát triển khác nhau. Hoa Kỳ và Trung Quốc đã theo đuổi những lĩnh vực chuyên môn AI khác nhau nhưng có tính bổ trợ cho nhau. Việc Hoa Kỳ quản lý AI không nhất thiết đồng nghĩa với việc nhường chiến thắng cho Trung Quốc.
Chủ tịch Trung Quốc Tập Cận Bình hiểu sự cần thiết của những hàng rào bảo vệ. Tại một hội nghị về AI hồi tháng Bảy, ông nói:
“Chúng ta phải bảo đảm rằng AI luôn nằm dưới sự kiểm soát của con người.”
Tập sẽ gặp Trump khi ông tới Washington vào cuối tháng này. Ý tưởng về một thỏa thuận AI song phương có thể vẫn chỉ là một mong muốn khó thành hiện thực, nhưng đã xuất hiện những thông tin cho rằng hai bên có thể thảo luận vấn đề này.
Chủ tịch Hạ viện Mike Johnson, người được tác giả mô tả là “con chó cưng của Trump”, đang lặp lại quan điểm của ông chủ mình, qua đó làm giảm khả năng Quốc hội thông qua các quy định lập pháp về AI trước cuộc bầu cử giữa nhiệm kỳ.
Phát biểu trên CNN hôm Chủ nhật, ông nói:
“Nếu Quốc hội chỉ lao vào và tổ chức một phiên họp khẩn cấp nào đó để cố gắng quản lý AI, chúng ta sẽ thua Trung Quốc trong cuộc đua này, và đó là mối đe dọa đối với từng người Mỹ.”
Các nghị sĩ Dân chủ tại Quốc hội không tỏ ra thờ ơ như vậy.
Theo The New York Times, tại một buổi gây quỹ hôm thứ Năm, cựu Tổng thống Barack Obama nói với lãnh đạo phe thiểu số tại Hạ viện Hakeem Jeffries:
“Một khi ông trở thành Chủ tịch Hạ viện, tôi đặc biệt khuyến nghị đảng Dân chủ xây dựng một khuôn khổ cho một cuộc thảo luận công khai rất rộng rãi” về AI.
Ông thúc giục: “Hãy có một kế hoạch thật rõ ràng.”
Cuối tuần qua, một nhóm các chiến lược gia chính trị cấp cao của đảng Dân chủ đã thực hiện điều đó. Họ gặp nhau để thảo luận về AI, những gì có thể làm đối với nó và làm thế nào để giành thế chủ động về vấn đề này trong mắt cử tri.
Trong một cuộc thăm dò gần đây của NBC News, 70% số người được hỏi cho biết họ lo lắng về AI, trong khi 30% nói rằng họ hào hứng với công nghệ mới này. Những người bày tỏ lo ngại thuộc nhiều nhóm khác nhau theo các tiêu chí thường được sử dụng trong thăm dò như tuổi tác, chủng tộc, trình độ học vấn và bản sắc chính trị.
Jeffries nói trên chương trình This Week của ABC:
“Chúng ta nên hành động quyết đoán ngay bây giờ để có thể làm chậm lại — như các CEO gần đây đã thừa nhận — tốc độ phát triển, nhằm bảo vệ người dân Mỹ và bảo đảm rằng AI đang được phát triển một cách an toàn.”
Theo tác giả Ben Buchanan, giáo sư tại Đại học Johns Hopkins:
“Chúng ta đang ở trong một giai đoạn phát triển theo cấp số nhân, và chỉ có hai cách để phản ứng: quá sớm hoặc quá muộn. Thế giới đã bỏ lỡ cơ hội để phản ứng quá sớm.”
Ngay từ buổi đầu của Kỷ nguyên AI, chúng ta đang phải đối diện với những quyết định khó khăn và nguy hiểm, không khác nhiều so với những quyết định mà nhân loại từng phải đưa ra khi bước vào Kỷ nguyên Nguyên tử.
Những quyết định ấy đòi hỏi một sự lãnh đạo quốc gia thận trọng và sáng suốt.
Tốt hơn hết, chúng ta hãy hy vọng mình có được sự lãnh đạo đó trước khi quá muộn.
Dù bạn đăng ký theo bất kỳ hình thức nào, tôi xin cảm ơn bạn đã đọc.
Hãy luôn vững vàng,
Dan
Obama, Trump and the Age of AI
In the divided States of America, you can count on one hand the number of issues on which Republicans and Democrats agree. Almost everything is viewed as red or blue, conservative or liberal. You can’t go to the grocery store or the public library without being confronted by a divisive issue.
Then along comes artificial intelligence (AI). The new technology has stormed into our lives whether we like it or not, and suddenly it doesn’t matter for whom you voted.
It turns out a majority of Americans, Democrats and Republicans, are worried, anxious, even angry about AI. What sounded so positive a few years ago now threatens jobs, costs far more than was advertised, and has become a very real threat to much that we hold dear — including, potentially, human life itself.
You may not keep up with all the latest on AI, as things change fast. But every American should know what’s going on and why the country needs strong political leadership that isn’t bought and paid for by Silicon Valley.
Artificial intelligence is the simulation of intelligent human behavior by a computer. AI agents mimic human functions such as learning, reasoning, problem-solving, and planning.
The benefits of AI are seemingly endless. It is boosting productivity, automating tasks, and improving outcomes. It allows for better analysis of medical scans and faster drug development. It is being used to monitor climate change to predict natural disasters and is making the lives of those living with disabilities easier.
As limitless as the benefits might be, so too are the dangers. AI is predicted to replace many human jobs. But the biggest concern is that AI systems can become so advanced they start doing things themselves, without human input. It may sound like the plot of a science fiction movie, but it has already happened.
In July, AI agents at the company OpenAI escaped their “sandbox,” meaning they started working outside of the safety parameters set up by human computer programmers. Once they broke free of their containers, these rogue agents conspired to keep their escape secret, cheated on tests, and hacked an outside AI company.
It took the humans at OpenAI more than a week to figure out what had happened and then shut it down. Fortunately, no one was injured, and no damage was done. Following that flashing red light of a warning, 1,386 computer scientists called on the industry to slow down and the government to step in.
“We request that the U.S. government support an international effort to develop the technical and governance tools needed to deliberately pace the frontier of automated AI development,” the group said in a signed statement.
Neither the hack nor the subsequent appeal got much traction until last week. On Tuesday, Jacob Coxon, a researcher at Anthropic, one of the country’s largest AI companies, resigned and posted a dire warning on social media.
“Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources… The people building AI earnestly believe that it could kill us all by the end of the decade,” he wrote.
That same day, Evan Hubinger, an executive at Anthropic, agreed with his now-former colleague. “Jacob is correct here — we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to,” he wrote on social media.
Two days later, Anthropic released a report showing the ways adversaries of the United States, including Russia, Iran, and China, are using various AI models. Among other things, they use them to plan cyberattacks, build weapons such as drones and missiles, spy on dissidents, and, most concerningly, attempt to create biological agents.
By Saturday, Anthropic’s CEO, Dario Amodei, wrote a 3,800-word blog post titled “We Must Pace the Frontier,” saying the industry is moving too fast and brakes must be applied.
“I believe that if slowing down bought us even an extra year or two before models reach critical levels of capability, and we used that time to advance alignment, we could greatly reduce the risk that something goes seriously wrong,” he wrote.
Heads of rival AI companies were quick to sign on to Amodei’s proposal. Sam Altman, the CEO of OpenAI, Elon Musk of xAI, and Demis Hassabis, head of Google’s DeepMind, all took to social media in agreement. Musk posted, “Dario is right.”
Guess who isn’t so quick to decelerate AI’s momentum? Donald Trump hasn’t simply adopted a hands-off approach; he has embraced a full-steam-ahead strategy, ignoring calls for regulation. One of his first acts as president was to reverse a President Joe Biden executive order that created a process to evaluate AI risk.
Trump and Republicans have received the lion’s share of the millions in campaign contributions from AI companies.
While AI guardrails are an increasing concern, the biggest AI-related issue on campaign trails thus far has been data centers. These centers, which are being built around the country at record pace, house the equipment needed to run AI systems, which require prodigious amounts of energy.
An AI-powered Google search needs ten times the amount of power a normal search does. All of that power generates a massive amount of heat that then needs to be cooled by water. Many municipalities are getting wise to the huge strain data centers put on local infrastructure, water sources, and increased utility costs. Many are rejecting them.
Trump said those who oppose AI data centers must prefer to be “backwards and poor.” While cheerleading for AI, he believes any government regulations will choke progress, giving the advantage to rival China.
“We’re leading China in AI, we’re the most sophisticated country in the world, and frankly I want to keep it that way,” he said over the weekend. “Whoever wins AI wins.”
AI is a vast technology with multiple avenues of development. The U.S. and China have pursued different yet complementary areas of AI expertise. Regulating AI in the U.S. would not necessarily mean ceding a win to China. Chinese President Xi Jinping understands the need for guardrails. “We should ensure that AI is always under human control,” he said at an AI conference in July.
Xi will be meeting with Trump when he visits Washington later this month. The idea of a bilateral AI accord may be wishful thinking, but there is talk that the two may discuss it.
Trump lapdog and Speaker of the House Mike Johnson is parroting his boss, killing any chance of legislative regulation before the midterms. “If Congress just races in and does some sort of emergency session to try to regulate AI, we will lose the race to China, and that is a threat to every single American,” he said on CNN on Sunday.
Democrats in Congress are not so insouciant. According to The New York Times, at a fundraiser on Thursday, President Barack Obama told House Minority Leader Hakeem Jeffries, “Once you are speaker, I would strongly urge that the Democrats put together a framework for a very public conversation,” about AI. “Have a very clear plan,” he urged.
Over the weekend, a group of high-level Democratic operatives did just that, meeting to discuss AI, what can be done about it, and how to own the issue vis-à-vis voters.
In a recent NBC News poll, 70% of respondents said they were worried about AI, while 30% said they were excited by the new technology. Those who expressed concern straddled standard polling demographics like age, race, education, and political identity.
“We should take decisive action now so that we can slow down, as the CEOs have recently acknowledged, slow down the pace of development in order to protect the American people and ensure that AI is proceeding safely,” Jeffries said on ABC’s “This Week.”
According to author and Johns Hopkins professor Ben Buchanan, “We are in a period of exponential development, and there are only two ways to respond: too early or too late. The world has missed its chance to be too early.”
There are tough, dangerous decisions to be made here at the beginning of the Age of AI, not unlike those made at the beginning of the Atomic Age. They require thoughtful, intelligent national leadership. We had better hope we get it before it’s too late.
No matter how you subscribe, I thank you for reading.
Stay Steady,
Dan