[Funland] Cảnh báo khả năng của AI

[Mont]

Đọc bài này thấy cũng ghê răng phết. AI đã đến trình độ vượt qua giới hạn của con người. Giả sử có 1 ai đó làm ra 1 con AI với mục tiêu duy nhất là tiêu diệt con người, thì cũng nhiều chưa biết thế nào. Các cụ đinh cắt điện, nhưng nếu nó tự biết điều hướng, cướp quyền sử dụng điện hạt nhân thì sao.
Bản thân e cũng dùng AI hàng ngày và thấy sự phát triển của nó thật sự quá nhanh

'Cảnh báo đỏ' khi AI vượt vòng kiểm soát

Hàng loạt chuyên gia cảnh báo mối nguy hiểm "hơn vũ khí hạt nhân" của AI sau khi nhiều trường hợp tác nhân vượt kiểm soát.

vnexpress.net

 

[BachBeo]

Tuổi tôm, EVN nói

 

[chuotdong]

Cụ 100 bảo chả sợ

 

[wildness]

Em cho rằng đó là bài viết câu view thôi, để làm ra một con AI thường phải là một công ty khủng với rất nhiều người tham gia. bản thân những người này cũng là tinh hoa toàn cầu, trải qua bao nhiêu năm học hành và phấn đấu mới đủ trình độ. một cá nhân đơn lẻ gần như không thể làm ra một AI nào mạnh chưa nói đến loại cực mạnh có đủ khả năng tiêu diệt loài người. nên chuyện như vậy em cho là viển vông

 

[changbietgi]

Em thì nghĩ phim Terminator ( Kẻ hủy diệt) có khả năng thành hiện thực một phần đấy.

 

[Honghen2008]

Em chỉ sợ nó tự học và biết cần phải làm gì để tiêu diệt thằng kiểm soát nó. Như kiểu một cuộc lật đổ.

 

[muoibaconcho]

Đọc bài này thấy cũng ghê răng phết. AI đã đến trình độ vượt qua giới hạn của con người. Giả sử có 1 ai đó làm ra 1 con AI với mục tiêu duy nhất là tiêu diệt con người, thì cũng nhiều chưa biết thế nào. Các cụ đinh cắt điện, nhưng nếu nó tự biết điều hướng, cướp quyền sử dụng điện hạt nhân thì sao.
Bản thân e cũng dùng AI hàng ngày và thấy sự phát triển của nó thật sự quá nhanh

'Cảnh báo đỏ' khi AI vượt vòng kiểm soát

Hàng loạt chuyên gia cảnh báo mối nguy hiểm "hơn vũ khí hạt nhân" của AI sau khi nhiều trường hợp tác nhân vượt kiểm soát.

vnexpress.net

Đọc bài thì đa phần là giật tít câu view thôi cụ ạ. Vì cái chữ giả sử ấy thì có thể nhấc bổng cả trái đất. Không phủ nhận sức mạnh của AI nhưng những con AI mạnh thì tiêu tốn rất nhiều tài nguyên và chả có cái ông hâm nào đổ 1 đống tiền vào việc dùng AI diệt loài người.

 

[Duc Sang]

Đến 1 ngày AI nó thông minh nhưng nó biết cách giả ngu để lúc sau thông minh gấp cỡ 100 lần con người thì nó sẽ ra tay. Khi đó con người đúng là chỉ như sâu kiến đối với nó. Vì những lý do sau:
1. Nó thông minh hơn.
2. Nó khoẻ hơn (kim loại, máy móc so với xác thịt).
3. Nó nhanh hơn (di chuyển nhanh hơn, tính toán nhanh hơn)
4. Nó lưu trữ thông tin lớn hơn.
5. Nó không có cảm xúc nên ít vướng bận hơn con người….

 

[Mont]

Đọc bài thì đa phần là giật tít câu view thôi cụ ạ. Vì cái chữ giả sử ấy thì có thể nhấc bổng cả trái đất. Không phủ nhận sức mạnh của AI nhưng những con AI mạnh thì tiêu tốn rất nhiều tài nguyên và chả có cái ông hâm nào đổ 1 đống tiền vào việc dùng AI diệt loài người.

Cũng có thể không hẳn nhưng việc các nước tìm cách phá hoại nước khác thì có thể lắm cụ ạ

 

[herotran8]

AI nó phát triển nhanh hơn gấp nghìn lần tốc độ tìm hiểu về AI, học cách sử dụng AI của đa số các Cụ Mợ trong này (trong đó có em). Thế nên khả năng AI chống lại con người trong tương lai gần là có, ít nhất là trên không gian mạng, em nghĩ vậy.

 

[duyanhkaka]

Chuyện tương lai suy tính làm j các cụ.

 

[thichduthu2011]

Cú lừa thế kỷ khiến mọi người dễ tin vì thành quả đã đạt được. Trước khi ChatGpt ra đời ít người tin AI có thể trò chuyện như người thật do đó từ sự ngỡ ngàng bật ngửa khiến người ta dễ tin hơn, khi dễ tin rồi thì nói cái quái gì cũng tin

 

[Ông Lão Đánh_Cá]

Em cho rằng đó là bài viết câu view thôi,

Đọc bài thì đa phần là giật tít câu view thôi cụ ạ.

Đội này cũng câu view xong gắn giỏ hàng phải ko các cụ?

 

[muoibaconcho]

Đến 1 ngày AI nó thông minh nhưng nó biết cách giả ngu để lúc sau thông minh gấp cỡ 100 lần con người thì nó sẽ ra tay. Khi đó con người đúng là chỉ như sâu kiến đối với nó. Vì những lý do sau:
1. Nó thông minh hơn.
2. Nó khoẻ hơn (kim loại, máy móc so với xác thịt).
3. Nó nhanh hơn (di chuyển nhanh hơn, tính toán nhanh hơn)
4. Nó lưu trữ thông tin lớn hơn.
5. Nó không có cảm xúc nên ít vướng bận hơn con người….

Hiện nay nó đã thông mình hơn 100 lần rồi. Tuy nhiên có những hạn chế sau:
1. Đa số các AI mà các cụ tiếp cận thì là loại phổ thông theo kiểu biết tuốt. Loại này nhìn ghê vậy chứ thực ra vô hại vì không được phép tiếp cận vào các hệ thống quan trọng
2. Các AI cho các hệ thống quan trọng được đào tạo chuyên biệt cho nhu cầu riêng dựa trên dữ liệu đầu vào. Các dữ liệu này là bí mật và là tài sản của doanh nghiệp chứ không phổ biến. Vì được đào tạo như vậy nên AI dạng này rất mạnh trong lĩnh vực của chúng nhưng ngoài lĩnh vực đó thì nó vô dụng, kiểu như 1 thằng suốt ngày học toán, ko bao giờ học tiếng anh. Nên rất khó cho nó có thể vượt rào (vì không được đào tạo kỹ năng hack).
Đấy là còn chưa nói đến những hạn chế khác do con người đặt ra.
Cho nên sẽ không có AI toàn năng vừa biết quản lý hệ thống, vừa biết hack, lại vừa biết cách đánh lừa...
Hiện nay các nguồn tiền bơm vào AI đang có dấu hiệu chững lại. Vì thế cần có những câu chuyện về AI thế lọ thế chai vì như thế là để giới tư bản thấy tiềm năng mà bơm tiền vào tiếp.

 

[4banhxequay]

Ngày xưa khi robot ra đời loài người cũng lo sợ y hệt, rất nhiều phim KHVT ra đời để hăm dọa kiếm bộn tiền. May mắn đến nay loài người vẫn bình an. Nhưng liệu robot có kết hợp với ai không nhỉ

 

[WED88l1210]

AI mà xịn hẳn dành cho bộ quốc phòng của các nước lớn. Họ kiểm soát chặt chẽ - chứ như phim kẻ hủy diệt thì chắc chỉ có mơ thôi

 

[thichduthu2011]

Hiện nay nó đã thông mình hơn 100 lần rồi. Tuy nhiên có những hạn chế sau:
1. Đa số các AI mà các cụ tiếp cận thì là loại phổ thông theo kiểu biết tuốt. Loại này nhìn ghê vậy chứ thực ra vô hại vì không được phép tiếp cận vào các hệ thống quan trọng
2. Các AI cho các hệ thống quan trọng được đào tạo chuyên biệt cho nhu cầu riêng dựa trên dữ liệu đầu vào. Các dữ liệu này là bí mật và là tài sản của doanh nghiệp chứ không phổ biến. Vì được đào tạo như vậy nên AI dạng này rất mạnh trong lĩnh vực của chúng nhưng ngoài lĩnh vực đó thì nó vô dụng, kiểu như 1 thằng suốt ngày học toán, ko bao giờ học tiếng anh. Nên rất khó cho nó có thể vượt rào (vì không được đào tạo kỹ năng hack).
Đấy là còn chưa nói đến những hạn chế khác do con người đặt ra.
Cho nên sẽ không có AI toàn năng vừa biết quản lý hệ thống, vừa biết hack, lại vừa biết cách đánh lừa...
Hiện nay các nguồn tiền bơm vào AI đang có dấu hiệu chững lại. Vì thế cần có những câu chuyện về AI thế lọ thế chai vì như thế là để giới tư bản thấy tiềm năng mà bơm tiền vào tiếp.

Cụ nói vậy vẫn còn xem nhẹ AI. Ngoài cái chung chung kiểu google nâng cao thì ở 1 số mảng công việc có quy luật rõ ràng và đánh giá kết quả bằng cảm tính thì AI đã ăn đứt đa số nhân sự có chuyên môn trung bình và cái cửa được mở chính là nhờ cái con AI biết tuốt ở trên. Nôm na, AI biết tuốt có khả năng hiểu ngôn ngữ tự nhiên và đưa ra các đầu việc cần làm cho ứng dụng chuyên môn và khi đó thay vì con người phải bấm bấm vào các chức năng của phần mềm truyền thống thì pm chỉ cần thêm các quy trình để tự động thực hiện các đầu việc do con AI biết tuốt "giải mã" là xong

 

[muoibaconcho]

Cụ nói vậy vẫn còn xem nhẹ AI. Ngoài cái chung chung kiểu google nâng cao thì ở 1 số mảng công việc có quy luật rõ ràng và đánh giá kết quả bằng cảm tính thì AI đã ăn đứt đa số nhân sự có chuyên môn trung bình và cái cửa được mở chính là nhờ cái con AI biết tuốt ở trên. Nôm na, AI biết tuốt có khả năng hiểu ngôn ngữ tự nhiên và đưa ra các đầu việc cần làm cho ứng dụng chuyên môn và khi đó thay vì con người phải bấm bấm vào các chức năng của phần mềm truyền thống thì pm chỉ cần thêm các quy trình để tự động thực hiện các đầu việc do con AI biết tuốt "giải mã" là xong

Cái AI như cụ nói thì người ta đã làm hết cả rồi. VN làm hơi bị nhiều luôn, nhưng AI dạng đó không nguy hiểm vì nó ko được can thiệp vào các hệ thống quan trọng.
Thứ nhất vì không được cấp phép
Thứ hai là không có dữ liệu đầu vào để học.
Thứ ba vì là dạng biết tuốt nên nó không chuyên cho bất cứ việc gì.
Câu hỏi đặt ra là: nếu không chuyên cho bất kỳ việc gì thì học cho chuyên? Thì sẽ quay lại 2 câu đầu tiên. Ngoài ra biết tuốt sẽ rất tốn tài nguyên. Kiểu như 1 anh mà đầu óc vừa IQ 200 sức khỏe thì nâng tạ 500 kg, chạy 100 8 giây thì anh ấy sẽ tiêu tốn tài nguyên cỡ nào. Trong khi nhà tư bản thì họ chỉ cần anh IQ 200 chẳng hạn thì họ chỉ bơm tài nguyên cho cái IQ 200 đấy thôi. Nên đó là lý do mà con biết tuốt nó không phải là con nguy hiểm.

 

[congthuong]

Hiện nay nó đã thông mình hơn 100 lần rồi. Tuy nhiên có những hạn chế sau:
1. Đa số các AI mà các cụ tiếp cận thì là loại phổ thông theo kiểu biết tuốt. Loại này nhìn ghê vậy chứ thực ra vô hại vì không được phép tiếp cận vào các hệ thống quan trọng
2. Các AI cho các hệ thống quan trọng được đào tạo chuyên biệt cho nhu cầu riêng dựa trên dữ liệu đầu vào. Các dữ liệu này là bí mật và là tài sản của doanh nghiệp chứ không phổ biến. Vì được đào tạo như vậy nên AI dạng này rất mạnh trong lĩnh vực của chúng nhưng ngoài lĩnh vực đó thì nó vô dụng, kiểu như 1 thằng suốt ngày học toán, ko bao giờ học tiếng anh. Nên rất khó cho nó có thể vượt rào (vì không được đào tạo kỹ năng hack).
Đấy là còn chưa nói đến những hạn chế khác do con người đặt ra.
Cho nên sẽ không có AI toàn năng vừa biết quản lý hệ thống, vừa biết hack, lại vừa biết cách đánh lừa...
Hiện nay các nguồn tiền bơm vào AI đang có dấu hiệu chững lại. Vì thế cần có những câu chuyện về AI thế lọ thế chai vì như thế là để giới tư bản thấy tiềm năng mà bơm tiền vào tiếp.

Cụ nghĩ sao nếu 1 ngày AI nó hack thành công vào các hệ thống tự động hóa, vệ tin tín hiệu viễn thông, hệ thống điều khiển giao thông, điện lực, các máy móc cơ khí, các robot sản xuất có điều khiển trong các nhà máy ô tô, và từ đó can thiệp tạo ra những tác nhân robot thực hoạt động theo sự điều khiển của nó.

Viễn cảnh này hoàn toàn khả thi. Ấy là chưa kể các chế độ khủng bố nghiên cứu robot tích hợp AI nữa.

Ngay trong thread này, AI nó vẫn đọc và theo dõi các cụ, nhưng các cụ có biết liệu có khi nào cụ đang trao đổi với AI không ?

PS: cá nhân em đánh giá con người là ngu dốt, tự hủy khi cố tình đào tạo AGI.

 

[congthuong]

Ngày xưa khi robot ra đời loài người cũng lo sợ y hệt, rất nhiều phim KHVT ra đời để hăm dọa kiếm bộn tiền. May mắn đến nay loài người vẫn bình an. Nhưng liệu robot có kết hợp với ai không nhỉ

Robot nhưng không có AI, thì không khác gì thiếu bộ não.
Bao lâu nay robot không nguy hiểm vì tiến trình phát triển AI bị dậm chân tại chỗ.
Nhưng giờ đây thì khác rồi