BENEFITS & RISKS OF ARTIFICIAL INTELLIGENCE

WHAT IS AI?

From SIRI to self-driving cars, artificial intelligence (AI) is progressing rapidly. While science fiction often portrays AI as robots with human-like characteristics, AI can encompass anything from Google’s search algorithms to IBM’s Watson to autonomous weapons.

Artificial intelligence today is properly known as narrow AI (or weak AI), in that it is designed to perform a narrow task (e.g. only facial recognition or only internet searches or only driving a car). However, the long-term goal of many researchers is to create general AI (AGI or strong
AI). While narrow AI may outperform humans at whatever its specific task is, like playing chess or solving equations, AGI would outperform humans at nearly every cognitive task.

WHY RESEARCH AI SAFETY?

In the near term, the goal of keeping AI’s impact on society beneficial motivates research in many areas, from economics and law to technical topics such as verification, validity, security and control. Whereas it may be little more than a minor nuisance if your laptop crashes or gets hacked, it becomes all the more important that an AI system does what you want it to do if it controls your car, your airplane, your pacemaker, your automated trading system or your power grid. Another short-term challenge is preventing a devastating arms race in lethal autonomous weapons.

In the long term, an important question is what will happen if the quest for strong AI succeeds and an AI system becomes better than humans at all cognitive tasks. As pointed out by I.J. Good in 1965, designing smarter AI systems is itself a cognitive task. Such a system could potentially undergo recursive self-improvement, triggering an intelligence explosion leaving human intellect far behind. By inventing revolutionary new technologies, such a superintelligence might help us eradicate war, disease, and poverty, and so the creation of strong AI might be the biggest event in human history. Some experts have expressed concern, though, that it might also be the last, unless we learn to align the goals of the AI with ours before it becomes superintelligent.

There are some who question whether strong AI will ever be achieved, and others who insist that the creation of superintelligent AI is guaranteed to be beneficial. At FLI we recognize both of these possibilities, but also recognize the potential for an artificial intelligence system to intentionally or unintentionally cause great harm. We believe research today will help us better prepare for and prevent such potentially negative consequences in the future, thus enjoying the benefits of AI while avoiding pitfalls.

AI là gì?

Trí tuệ nhân tạo (AI) đang phát triển nhanh chóng với các công nghệ từ SIRI đến xe tự lái. Khoa học viễn tưởng thường hình dung AI là các robot có các đặc tính giống con người, trong khi đó, AI trên thực tế có thể bao gồm tất cả mọi thứ từ các thuật toán tìm kiếm của Google đến Watson của IBM và các loại vũ khí tự động.

Ngày nay, trí tuệ nhân tạo được hiểu một cách đúng nghĩa là trí tuệ nhân tạo hẹp (hay trí tuệ nhân tạo yếu), trong đó nó được thiết kế để thể thực hiện một nhiệm vụ cụ thể (chẳng hạn như chỉ nhận diện khuôn mặt, tìm kiếm trên mạng hay chỉ điều khiển xe ô tô). Tuy nhiên, mục tiêu dài hạn của rất nhiều nhà nghiên cứu là tạo ra một loại trí tuệ nhân tạo rộng/toàn năng (AGI hay trí tuệ nhân tạo mạnh). Trong khi AI hẹp có thể làm tốt hơn con người trong mọi nhiệm vụ cụ thể của nó thì AGI cũng sẽ thực hiện tốt hơn con người gần như ở mọi nhiệm vụ nhận thức.

Vì sao cần nghiên cứu tính an toàn của AI?

Trong ngắn hạn, mục tiêu đảm bảo AI có tác động tích cực đối với xã hội sẽ thúc đẩy các nghiên cứu trong nhiều lĩnh vực, từ kinh tế, luật pháp tới các lĩnh vực kỹ thuật như tính xác minh, hiệu lực bảo mật vàkiểm soát . Trong khi việc máy tính của bạn bị bể hay bị tấn công chỉ gây một chút phiền toái nho nhỏ thì việc một hệ thống AI gặp sự cố khi thực hiện những nhiệm vụ được giao như điều khiển xe hơi, máy bay, máy điều hòa nhịp tim, hệ thống thương mại tự động hay lưới điện sẽ trở nên nghiêm trọng hơn rất nhiều. Một thách thức khác trước mắt là việc ngăn chặn cuộc chạy đua vũ trang các loại vũ khí tự động gây chết người và mang tính hủy diệt.

Về lâu dài, một câu hỏi được đặt ra là điều gì sẽ xảy ra nếu như nghiên cứu AI mạnh thành công và một hệ thống AI sẽ thực hiện tốt hơn con người trong tất cả các hoạt động nhận thức. Theo nhận định của I.J. Good năm 1965, bản thân việc thiết kế ra những hệ thống AI đã là một hoạt động nhận thức. Một hệ thống như vậy có khả năng sẽ tự cải tiến , kích hoạt sự bùng nổ của một loại trí tuệ vượt qua cả trí tuệ con người. Bằng việc phát minh ra công nghệ mới này, siêu trí tuệ có khả năng sẽ giúp con người xóa sổ chiến tranh, bệnh tật và nghèo đói, do đó việc sáng tạo ra AI mạnh có thể sẽ là sự kiện vĩ đại nhất trong lịch sử nhân loại. Mặc dù vậy, một số chuyên gia đã bày tỏ mối quan ngại rằng phát minh này cũng có thể là phát minh cuối cùng nếu con người không biết cách đồng nhất mục tiêu của AI với mục tiêu của mình trước khi chúng trở thành siêu trí tuệ.

Một số người đặt câu hỏi rằng liệu AI mạnh có thể thành hiện thực hay không, trong khi số khác lại khẳng định rằng việc tạo ra siêu trí tuệ AI đảm bảo là sẽ đem lại lợi ích. Tại FLI chúng tôi nhận thấy cả hai khả hai khả năng trên, nhưng đồng thời chúng tôi cũng nhận ra một khả năng là
trí tuệ nhân tạo dù nhận thức được hay không cũng sẽ gây ra nhiều nguy hại. Chúng tôi tin rằng những nghiên cứu ngày nay có thể giúp chúng ta phòng ngừa những hậu quả tiêu cực trong tương lai, nhờ đó chúng ta có thể được tận hưởng những lợi ích từ AI đồng thời tránh được các mối nguy hại có thể xảy ra.