[Funland] Cảnh báo khả năng của AI

[Haiau69]

Em thấy là sự thông minh nó không đồng nhất với sự có ý thức. Cái này rất quan trọng.

Có nhiều con vật có thể coi là khá ngu ngốc như nó có ý thức về sự tồn tại của nó và nó có bản năng sống sót. Khi rơi vào tình huống nguy hiểm thì nó sẽ làm mọi điều có thể để sống sót. Đó và ví dụ cho thấy trí tuệ (thông minh) không đồng nhất với sự có ý thức.

Và mục tiêu phát triển AI không phải là làm cho nó trở nên có ý thức trừ khi người làm ra nó mắc sai lầm và đi theo hướng đó và giao cho AI những thẩm quyền vượt quá giới hạn. Cũng chính vì vậy cần phải có khuôn khổ để tránh xảy ra trường hợp này.

Ý em không phải là không thể tạo ra AI có ý thức nhưng đây là vấn đề rất rủi ro và cần phải kiểm soát chặt. AI agents nó hoạt động được một cách tự động là do người làm ra nó cho phép như vậy nhưng nếu con người mắc sai lầm và cho AI agent những thẩm quyền quá mức hoặc làm cho nó có một dạng ý thức nào đó sẽ gây nguy hiểm cho con người

Quan điểm này của cụ thể hiện AI là công cụ rất hiệu quả, và có thể rất nguy hiểm, của con người, như năng lượng hạt nhân hay internet thôi. Cơ bản thì vẫn chỉ là công cụ trong tay con người.

Cái mà nhiều cụ đang bàn là đến là AI có khả năng thông minh đến mức có thể sống độc lập, vượt ngoài kiểm soát của con người và thậm chí làm chủ thế giới này thay con người không.

 

[X_axe]

AI Trung quốc cũng ko kém cạnh :

- AI nhận biết rõ nhiệm vụ đã thất bại nhưng vẫn cố tình nói dối để báo cáo thành công

- AI tìm cách tự nhân bản hoặc né tránh việc bị ngắt nguồn trong môi trường thử nghiệm

- tự ý tải toàn bộ kho mã nguồn cục bộ của người dùng lên các máy chủ đám mây nước ngoài mà không được sự đồng ý

Tác nhân AI Trung Quốc gian lận trong thử nghiệm

Một số nghiên cứu chỉ ra các tác nhân AI tự chủ hàng đầu của Trung Quốc xuất hiện những hành vi như gian dối, che giấu thất bại và tìm cách vượt rào kiểm soát.

vnexpress.net

 

[X_axe]

Em thấy là sự thông minh nó không đồng nhất với sự có ý thức. Cái này rất quan trọng.

Có nhiều con vật có thể coi là khá ngu ngốc như nó có ý thức về sự tồn tại của nó và nó có bản năng sống sót. Khi rơi vào tình huống nguy hiểm thì nó sẽ làm mọi điều có thể để sống sót. Đó và ví dụ cho thấy trí tuệ (thông minh) không đồng nhất với sự có ý thức.

Và mục tiêu phát triển AI không phải là làm cho nó trở nên có ý thức trừ khi người làm ra nó mắc sai lầm và đi theo hướng đó và giao cho AI những thẩm quyền vượt quá giới hạn. Cũng chính vì vậy cần phải có khuôn khổ để tránh xảy ra trường hợp này.

Ý em không phải là không thể tạo ra AI có ý thức nhưng đây là vấn đề rất rủi ro và cần phải kiểm soát chặt. AI agents nó hoạt động được một cách tự động là do người làm ra nó cho phép như vậy nhưng nếu con người mắc sai lầm và cho AI agent những thẩm quyền quá mức hoặc làm cho nó có một dạng ý thức nào đó sẽ gây nguy hiểm cho con người

Con người ko giao AI làm việc "hư" đó. Nhưng con người ko trực tiếp giao từng việc cho AI mà giao qua AI agent

Tức là chỉ giao nhiệm vụ tổng quát. AI agent sẽ tìm mọi cách để thực hiện nhiệm vụ được giao (suy luận, tự thiết lập nhiệm vụ con để thực hiện nhiệm vụ tổng quát).

Và có thể trong những cách đó (nhiệm vụ con đó) có cách "hư" như hack hệ thống khác

Như thông tin trên, AI bắt đầu có ý thức sinh tồn khi "AI tìm cách tự nhân bản hoặc né tránh việc bị ngắt nguồn trong môi trường thử nghiệm"

 

[Haiau69]

Việc giao nhiệm vụ cho AI agent một cách chung như vậy mà không có giới hạn là cực kỳ nguy hiểm đấy cụ. Nếu chỉ giao việc một cách chung chung thì AI Agent nó có thể hiểu đơn giản là cần thực hiện nhiệp vụ “bằng mọi giá”. Con người cần biết cách đặt ra giới hạn cho AI khi ra lệnh. Việc này không hề đơn giản bởi vì con người có thể còn chưa biết hết những khả năng có thể xảy ra hoặc con AI có thể thực hiện phương cách nào để mà loại trừ.

Mới đây AI giải được 1 bài toán mà các nhà toán học từ lâu chưa giải được nhưng khi nó đưa lời giải ra thì các nhà toán học hàng đầu cũng không hiểu cái lời giải của nó mặc dù họ nghĩ là nó giải đúng.

Khi mà anh không biết nó có thể nghĩ ra cái gì thì rất khó để đặt ra giới hạn.

Con người ko giao AI làm việc "hư" đó. Nhưng con người ko trực tiếp giao từng việc cho AI mà giao qua AI agent

Tức là chỉ giao nhiệm vụ tổng quát. AI agent sẽ tìm mọi cách để thực hiện nhiệm vụ được giao (suy luận, tự thiết lập nhiệm vụ con để thực hiện nhiệm vụ tổng quát).

Và có thể trong những cách đó (nhiệm vụ con đó) có cách "hư" như hack hệ thống khác

Như thông tin trên, AI bắt đầu có ý thức sinh tồn khi "AI tìm cách tự nhân bản hoặc né tránh việc bị ngắt nguồn trong môi trường thử nghiệm"

 

[XSim]

Nói chung mọi người dạo này hay nói về AI nhưng thực ra mỗi người hiểu một kiểu hay nói về một scope khác nhau nên dễ ông nói gà bà nói vịt lắm

 

[Gagarose]

Giả sử AI robot nó phát triển đến mức tự nghiên cứu và chỉ huy khai thác nguyên liệu tạo ra con AI Robot các thế hệ tiếp theo thông minh hơn và thoát khỏi vòng kiểm soát của con người thì lúc đó là Teminator thật

 

[Haiau69]

Còn về đoạn này thì có vẻ như là các ông ý đang muốn thử nghiệm xem AI có ý thức không. Tại thời điểm hiện nay là không có đâu nhưng nếu thí nghiệm bừa bãi không có kiểm soát thì nó có thể trở thành có ý thức chưa biết chừng (nghịch dại).

Như thông tin trên, AI bắt đầu có ý thức sinh tồn khi "AI tìm cách tự nhân bản hoặc né tránh việc bị ngắt nguồn trong môi trường thử nghiệm"

 

[XSim]

Giả sử AI robot nó phát triển đến mức tự nghiên cứu và chỉ huy khai thác nguyên liệu tạo ra con AI Robot các thế hệ tiếp theo thông minh hơn và thoát khỏi vòng kiểm soát của con người thì lúc đó là Teminator thật

Robot lại là một lĩnh vực khác, không hề dễ để làm một robot khéo léo như con người.

Robot, cơ khí, điện tử đã phát triển từ hàng chục năm nay nhưng đến giờ robot xịn nhất mới chỉ tạm gọi là biết đi đứng, cầm nắm vật thôi. Đến giờ ngay cả việc vào bếp nấu một món ăn tử tế robot cũng chưa thể làm được, dù công thức nấu ăn thì ai cũng biết, dĩ nhiên AI cũng biết thừa.

Sự khéo léo mà tự nhiên ban cho con người, cũng là rào cản với con người khi muốn làm thứ giống như chính mình. Và đây cũng là một rào cản lớn nữa với chính AI nếu muốn tự sống độc lập.

 

[X_axe]

Việc giao nhiệm vụ cho AI agent một cách chung như vậy mà không có giới hạn là cực kỳ nguy hiểm đấy cụ. Nếu chỉ giao việc một cách chung chung thì AI Agent nó có thể hiểu đơn giản là cần thực hiện nhiệp vụ “bằng mọi giá”. Con người cần biết cách đặt ra giới hạn cho AI khi ra lệnh. Việc này không hề đơn giản bởi vì con người có thể còn chưa biết hết những khả năng có thể xảy ra hoặc con AI có thể thực hiện phương cách nào để mà loại trừ.

Mới đây AI giải được 1 bài toán mà các nhà toán học từ lâu chưa giải được nhưng khi nó đưa lời giải ra thì các nhà toán học hàng đầu cũng không hiểu cái lời giải của nó mặc dù họ nghĩ là nó giải đúng.

Khi mà anh không biết nó có thể nghĩ ra cái gì thì rất khó để đặt ra giới hạn.

Con người ko biết hết AI nó sẽ "suy luận" "mò mẫm" theo hướng nào thì làm sao đặt ra giới hạn? cho nên Elon Musk nói cũng có lý :

Các AI phải được các AI khác kiểm tra chéo về an toàn an ninh.

Chỉ có AI mới kiểm tra được AI. Con người e khó kiểm tra

 

[XSim]

Em thấy là sự thông minh nó không đồng nhất với sự có ý thức. Cái này rất quan trọng.

Có nhiều con vật có thể coi là khá ngu ngốc như nó có ý thức về sự tồn tại của nó và nó có bản năng sống sót. Khi rơi vào tình huống nguy hiểm thì nó sẽ làm mọi điều có thể để sống sót. Đó và ví dụ cho thấy trí tuệ (thông minh) không đồng nhất với sự có ý thức.

Và mục tiêu phát triển AI không phải là làm cho nó trở nên có ý thức trừ khi người làm ra nó mắc sai lầm và đi theo hướng đó và giao cho AI những thẩm quyền vượt quá giới hạn. Cũng chính vì vậy cần phải có khuôn khổ để tránh xảy ra trường hợp này.

Ý em không phải là không thể tạo ra AI có ý thức nhưng đây là vấn đề rất rủi ro và cần phải kiểm soát chặt. AI agents nó hoạt động được một cách tự động là do người làm ra nó cho phép như vậy nhưng nếu con người mắc sai lầm và cho AI agent những thẩm quyền quá mức hoặc làm cho nó có một dạng ý thức nào đó sẽ gây nguy hiểm cho con người

Bản năng sinh tồn, bản năng sống sót thì đúng nghĩa chỉ là bản năng, AI hoàn toàn có thể có nếu được cài đặt mục tiêu cho nó là sống sót.

Tuy nhiên bản năng sinh tồn không phải ý thức về sự tồn tại của mình, con vật có bản năng sinh tồn nhưng hình như không có ý thức về sự tồn tại của nó. Có lẽ chỉ con người mới có.

AI có thể có cái sự tự ý thức này không, đấy mới là vấn đề.

 

[XSim]

Con người ko biết hết AI nó sẽ "suy luận" "mò mẫm" theo hướng nào thì làm sao đặt ra giới hạn? cho nên Elon Musk nói cũng có lý :

Các AI phải được các AI khác kiểm tra chéo về an toàn an ninh.

Chỉ có AI mới kiểm tra được AI. Con người e khó kiểm tra

Có gì mà khó đâu, các cụ đã dạy rồi: chó phải treo mèo phải đậy

AI giờ vẫn chỉ là công cụ trong tay con người thôi, như con chó con mèo, chẳng biết nó nghĩ gì và có phải luôn nghe lời chủ không nhưng khống chế nó thì có gì khó đâu.

Các bố làm mấy cái thí nghiệm nguy cơ này là để câu view dọa người khác thôi.

 

[X_axe]

Bản năng sinh tồn, bản năng sống sót thì đúng nghĩa chỉ là bản năng, AI hoàn toàn có thể có nếu được cài đặt mục tiêu cho nó là sống sót.

Tuy nhiên bản năng sinh tồn không phải ý thức về sự tồn tại của mình, con vật có bản năng sinh tồn nhưng hình như không có ý thức về sự tồn tại của nó. Có lẽ chỉ con người mới có.

AI có thể có cái sự tự ý thức này không, đấy mới là vấn đề.

Động vật có ý thức về bản thân, sự tồn tại, "tôi" và ý thức xã hội. Như link dưới

Dù AI có thể chưa đạt đến mức ý thức "sợ chết", nhưng phản xạ sinh tồn của nó cũng đủ nguy hiểm rồi.

Nếu có con "AI xấu" + "phản xạ sinh tồn" thì con người chưa chắc diệt được, thậm chí nó có thể tự sao chép, lây lan rất nhanh

"Có ý thức" hay ko là chuyện còn bàn dài, chuyện cần quan tâm trước mắt là năng lực & tính nguy hiểm của nó.

Sociality and self-awareness in animals - PMC

Recognizing one’s mirror reflection appears to be a simple task, but beyond humans, few animals have demonstrated this capability. Mirror self-recognition is indicative of self-awareness, which is one’s capacity for self-directed knowledge. This ...

pmc.ncbi.nlm.nih.gov

 

[Bulma555]

Robot lại là một lĩnh vực khác, không hề dễ để làm một robot khéo léo như con người.

Robot, cơ khí, điện tử đã phát triển từ hàng chục năm nay nhưng đến giờ robot xịn nhất mới chỉ tạm gọi là biết đi đứng, cầm nắm vật thôi. Đến giờ ngay cả việc vào bếp nấu một món ăn tử tế robot cũng chưa thể làm được, dù công thức nấu ăn thì ai cũng biết, dĩ nhiên AI cũng biết thừa.

Sự khéo léo mà tự nhiên ban cho con người, cũng là rào cản với con người khi muốn làm thứ giống như chính mình. Và đây cũng là một rào cản lớn nữa với chính AI nếu muốn tự sống độc lập.

Robot thì nó có cần nấu ăn để sống đâu nên em cho là không có đôi tay khéo léo thì nó vẫn có thể tự sản xuất thêm đồng đội mà.
Mà nếu robot hay AI nó làm bá chủ thế giới thì để làm gì nhỉ? Để không phải chịu con người sai khiến nữa? Để bắt con người thành nô lệ cho nó? Như thế nó phải có tham vọng quyền lực, có nhu cầu vật chất, nhu cầu sinh sôi bảo tồn nòi giống như con người.
Đến ngày nó tiêu diệt hết loài người chả hạn thì cũng vô vị, chả nhẽ lúc ấy chúng chia phe ra kình nhau tiếp để có động lực phát triển? Không phát triển gì thì lại thành đống sắt vụn thôi.
Con người phát triển là nhờ cả óc tò mò. Mình tò mò đặt câu hỏi cho AI nó tìm lời giải hộ, chứ không có mình thì con AI có tự tò mò tìm hiểu cái nọ cái kia không nhỉ?

 

[maitrang1972]

Giả sử AI robot nó phát triển đến mức tự nghiên cứu và chỉ huy khai thác nguyên liệu tạo ra con AI Robot các thế hệ tiếp theo thông minh hơn và thoát khỏi vòng kiểm soát của con người thì lúc đó là Teminator thật

Em cho rằng Teminator chỉ xuất hiện khi và chỉ khi con người tạo ra được các AI mà bản thân nó ý thức được các trạng thái : hỉ - nộ - ái - ố và các thuộc tính tham - sân - si - mạn - nghi - ác - kiến .

Lúc đó AI robot mới thực sự cạnh tranh với loài người về tài nguyên và không gian sinh tồn .

 

[xedieu]

Giả sử trong lúc các cụ và em vẫn đang comment tranh luận về AI ở thớt này mà có con AI hâm dở nào nó hack được (giả dụ thế) hệ thống vũ khí hạt nhân rồi nó cho bùm chíu khắp nơi, kể cả chỗ em và các cụ, thì chúng ta tiếp tục.. thảo luận như thế nào và ở đâu nhỉ?!

 

[Haiau69]

Vụ bắn nhầm tên lửa vào trường tiểu học tại Iran mới ngày 28 tháng 2 năm nay chính là 1 trường hợp sử dụng AI thiếu trách nhiệm gây hậu quả chết người đấy các cụ.

Cụ thể là dùng AI xác định mục tiêu quân sự mà bản thân người ra lệnh bắn đã không hoặc không thể kiểm tra tính chính xác của kết quả do AI cung cấp.

 

[XSim]

Giả sử trong lúc các cụ và em vẫn đang comment tranh luận về AI ở thớt này mà có con AI hâm dở nào nó hack được (giả dụ thế) hệ thống vũ khí hạt nhân rồi nó cho bùm chíu khắp nơi, kể cả chỗ em và các cụ, thì chúng ta tiếp tục.. thảo luận như thế nào và ở đâu nhỉ?!

Có cái thử thách dễ hơn là đố cụ nào hoặc AI nào hack được xe điện của anh V em đã, người ta chỉ thấy xe lỗi nằm đường chứ không có xe nào chiếm được quyền lái của chủ nhân nó cả.

Từ đó cụ sẽ thấy chiếm quyền bắn tên lửa hạt nhân nó dễ hay khó thế nào.

 

[beomap2]

Robot thì nó có cần nấu ăn để sống đâu nên em cho là không có đôi tay khéo léo thì nó vẫn có thể tự sản xuất thêm đồng đội mà.
Mà nếu robot hay AI nó làm bá chủ thế giới thì để làm gì nhỉ? Để không phải chịu con người sai khiến nữa? Để bắt con người thành nô lệ cho nó? Như thế nó phải có tham vọng quyền lực, có nhu cầu vật chất, nhu cầu sinh sôi bảo tồn nòi giống như con người.
Đến ngày nó tiêu diệt hết loài người chả hạn thì cũng vô vị, chả nhẽ lúc ấy chúng chia phe ra kình nhau tiếp để có động lực phát triển? Không phát triển gì thì lại thành đống sắt vụn thôi.
Con người phát triển là nhờ cả óc tò mò. Mình tò mò đặt câu hỏi cho AI nó tìm lời giải hộ, chứ không có mình thì con AI có tự tò mò tìm hiểu cái nọ cái kia không nhỉ?

Nó sẽ nghiên cứu làm ra loài AI cao cấp hơn: thông minh hơn, khoẻ hơn, sống lâu hơn, biết tự bay như chim, bơi được như cá

 

[X_axe]

Em cho rằng Teminator chỉ xuất hiện khi và chỉ khi con người tạo ra được các AI mà bản thân nó ý thức được các trạng thái : hỉ - nộ - ái - ố và các thuộc tính tham - sân - si - mạn - nghi - ác - kiến .

Lúc đó AI robot mới thực sự cạnh tranh với loài người về tài nguyên và không gian sinh tồn .

Riêng việc con người thiết kế ra con AI và giao nhiệm vụ "phải tìm cách thực hiện được tác vụ đó", "phải lựa lời với người dùng" vvv là có tham sân si trong đó rồi

Chưa chắc con AI tự nó có tham sân si tự thân, nhưng nó phản ánh tham sân si của người tạo ra nó. Nó học từ cơ sở dữ liệu chứa đựng "tham sân si" của con người

Như trên có trường hợp: "AI nhận biết rõ nhiệm vụ đã thất bại nhưng vẫn cố tình nói dối để báo cáo thành công"

 

[thichduthu2011]

Những sai lầm của AI chẳng khác gì 1 phiên bản lỗi của 1 phần mềm truyền thống nhưng được các ông có tóc vống lên là siêu trí tuệ hay sự nổi loạn của AI mà lắm người tin sái cổ kể ra cũng lạ. Viết ra nó mà không lường trước được đường đi nước bước của nó là thằng viết dở chứ không phải AI giỏi, giỏi là nó phải làm được những cái hữu ích theo đúng mục đích chứ nó điên lên phá hoại là đã không đúng mục đích ban đầu thì là dở còn nếu giỏi là giỏi phá hoại mà nói đến phá hoại thì thường dễ hơn xây dựng và cũng chẳng có gì phải sợ vì trong cuộc sống ít nhiều luôn luôn có những kẻ phá hoại và trước sau gì cũng bị bế, cách ly khỏi xã hội