Để hoàn thành nhiệm vụ đặt ra ban đầu, robot có thể bất chấp mọi thứ, làm tổn hại những thứ ngăn cản nó nhanh chóng hoàn thành nhiệm vụ hoặc thậm chí là học cách lừa dối, giấu đi những dấu chỉ cho việc chưa hoàn thành nhiệm vụ. Đây là một phần nội dung của nghiên cứu mang tên "Concrete Problems in AI Safety" (tạm dịch "những vấn đề cụ thể về tính an toàn của AI") do Google phát hành mới đây nhằm làm rõ những mối quan hệ giữa con người và robot, chỉ ra những nỗi sợ đích thực đến từ AI, từ đó kêu gọi giải quyết vấn đề tạo nên một thế giới con người sống chung với máy móc một cách thân thiện và an toàn hơn.
Không giống với những gì mà chúng ta hay tưởng tượng hay được xem trên những bộ phim viễn tưởng, thực tế thì cho tới hiện tại, danh sách những điểm mà AI sợ con người khá cơ bản, chủ yếu tập trung vào các vấn đề như khả năng thích ứng, sự án toàn khi khai thác và sử dụng thông tin,... Báo cáo chỉ ra rằng robot sẽ học tập thông qua quá trình lặp lại và thăm dò thông tin tương tự như các thuật toán trí tuệ nhân tạo. Tuy nhiên, khác với các phần mềm thuần túy, một con robot có thể cố làm những thứ có khả năng gây hại cho con người.
Báo cáo đã chỉ ra 5 mối lo lại chủ yếu trong mối quan hệ giữa AI và con người, trong đó yếu tố được đặt lên hàng đầu chính là "tránh xảy ra các tác dụng phụ mang tính tiêu cực." Để tránh điều này, các nhà nghiên cứu cho rằng nếu robot thực hiện những thay đổi không mong muốn tác động tới môi trường thì nó cần phải bị trừng phạt, trong khi đó vẫn cho phép nó có thời gian khám phá và học hỏi. Đây chính là vấn đề mà không chỉ con người sợ robot mà dưới góc độ nào đó thì chính những con robot này cũng "sợ" trong khái niệm hoàn thành nhiệm vụ hoặc thậm chí là "bị phạt".
Họ đặt ra vấn đề là "làm thế nào để đảm bảo một con robot quét dọn không gây tổn hại tới môi trường theo cách tiêu cực nhằm hoàn thành nhiệm vụ, thí dụ như làm vỡ một cái bình hoa để quét dọn nhanh hơn." Và một trong những cách mà họ đưa ra có thể là đưa ra hình phạt nếu làm vỡ bình, tiến xa hơn là tăng cường mức độ nhận thức môi trường hoạt động của nó, cho phép nó hiểu được "làm nhiệm vụ A nhưng hạn chế các tác dụng phụ ở mức thấp nhất."
Ngoài ra còn có những vấn đề như hình thức thưởng sai lầm, nhận thức sai giá trị của công việc, đồ vật,... hoặc thậm chí là hình thành khả năng lừa dối, nói cách khác là robot sẽ "tìm hiểu dể thực hiện mục tiêu được đặt ra bằng cách ẩn đi các bằng chứng cho thấy công việc chưa hoàn thành." Và tất cả đều cung cấp thêm một cái nhìn tổng quát về những vấn đề có thể phát sinh trong mối quan hệ chung sống giữa robot hay AI và con người. Hy vọng rằng các nhà nghiên cứu sẽ tìm được cách giải quyết trước khi robot chính thức đi vào đời sống của mỗi người chúng ta, cuối cùng là tạo nên một tương lai tốt đẹp hơn.
No comments:
Post a Comment