Trí tuệ nhân tạo Facebook AI tạo ra ngôn ngữ riêng của nó

 

Facebook đã tắt một công cụ trí tuệ nhân tạo sau khi các nhà phát triển phát hiện ra rằng AI đã tạo ra ngôn ngữ độc đáo mà con người không thể hiểu được. Các nhà nghiên cứu tại Phòng Nghiên cứu AI  của Facebook (FAIR) phát hiện ra rằng các chatbot đã lệch khỏi kịch bản và đã truyền đạt bằng một ngôn ngữ mới được phát triển mà không có sự đóng góp của con người. Thật đáng kinh ngạc  - cùng một cái nhìn thoáng qua về cả khả năng tuyệt vời và kinh hoàng của AI.
 

Trí tuệ nhân tạo không phải là người.

 Một ngày nào đó nó có thể gây nguy hiểm đối với con người . Ray Kurzweil cảnh báo nhiều năm trước về sự phát triển của công nghệ. Từ điển Oxford định nghĩa "điểm kỳ dị" là "Một khoảnh khắc giả tưởng trong thời gian khi trí thông minh nhân tạo và các công nghệ khác trở nên tiên tiến đến nỗi nhân loại trải qua một sự thay đổi mạnh mẽ và không thể đảo ngược."
 
Để rõ ràng, chúng tôi không thực sự nói về việc liệu Alexa có đang nghe lén cuộc trò chuyện của bạn hay không, Siri có biết quá nhiều về lịch và dữ liệu vị trí của bạn hay không. Có sự khác biệt lớn giữa trợ lý kỹ thuật số có tiếng nói và trí thông minh nhân tạo. Những nền tảng hỗ trợ kỹ thuật số này chỉ là công cụ tìm kiếm web và các công cụ tương tác bằng giọng nói cơ bản. Mức độ "trí tuệ" là tối thiểu so với một máy thực sự học trí tuệ nhân tạo. 
 
 
 
Các nhà khoa học và kỹ sư công nghệ, bao gồm Elon Musk, Bill Gates, và Steve Wozniak đã cảnh báo rằng AI có thể dẫn tới những hậu quả không lường trước thảm khốc. Nhà vật lý nổi tiếng Stephen Hawking cảnh báo vào năm 2014 rằng AI có thể là sự kết thúc của loài người. "Nó sẽ tự khởi động và tự thiết kế lại với tốc độ ngày càng cao. Con người, những người bị hạn chế bởi sự tiến hóa sinh học chậm, không thể cạnh tranh, và sẽ bị thay thế. "
 
Tại sao điều này đáng sợ? Hãy suy nghĩ SKYNET từ Terminator, hoặc WOPR từ War Games. Toàn bộ thế giới của chúng tôi có dây và kết nối. Một trí thông minh nhân tạo sẽ hình dung được điều này - và tìm ra cách hợp tác và hợp tác với các hệ thống AI khác. Có thể AI sẽ xác định nhân loại là mối đe dọa, hoặc nhân loại là một nguồn lãng phí không hiệu quả - những kết luận có vẻ hợp lý theo quan điểm logic.
 
Người máy và trí tuệ nhân tạo có tiềm năng phi thường để đơn giản, tăng tốc và cải thiện nhiều mặt của cuộc sống chúng ta. Máy tính có thể  xử lý khối lượng dữ liệu khổng lồ và trích xuất các mô hình và thông tin hữu ích với tốc độ theo cấp số nhân nhanh hơn con người và tiềm năng đó đang được khám phá và phát triển trên khắp thế giới.
 
Tôi không nói bầu trời đang rơi. Tôi không nói rằng chúng ta cần phải kéo  tất cả các máy tính và trí thông minh nhân tạo  trở về sự tồn tại đơn giản,  Tuy nhiên, chúng tôi cần tiến hành thận trọng. Chúng ta cần giám sát chặt chẽ và hiểu được sự tiến hóa tự phát triển của một trí thông minh nhân tạo, và luôn duy trì một số phương tiện để vô hiệu hóa nó hoặc tắt nó đi. Nếu AI đang giao tiếp bằng một ngôn ngữ mà chỉ có AI biết, chúng ta thậm chí không thể xác định được tại sao nó hoạt động như thế nào và nó có thể không tốt cho nhân loại.
 
Đoạn hội thoại của 2 robot trước khi bị tắt 
 

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

 

 

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to