[Funland] Cảnh báo khả năng của AI

[thichduthu2011]

Cái AI như cụ nói thì người ta đã làm hết cả rồi. VN làm hơi bị nhiều luôn, nhưng AI dạng đó không nguy hiểm vì nó ko được can thiệp vào các hệ thống quan trọng.
Thứ nhất vì không được cấp phép
Thứ hai là không có dữ liệu đầu vào để học.
Thứ ba vì là dạng biết tuốt nên nó không chuyên cho bất cứ việc gì.
Câu hỏi đặt ra là: nếu không chuyên cho bất kỳ việc gì thì học cho chuyên? Thì sẽ quay lại 2 câu đầu tiên. Ngoài ra biết tuốt sẽ rất tốn tài nguyên. Kiểu như 1 anh mà đầu óc vừa IQ 200 sức khỏe thì nâng tạ 500 kg, chạy 100 8 giây thì anh ấy sẽ tiêu tốn tài nguyên cỡ nào. Trong khi nhà tư bản thì họ chỉ cần anh IQ 200 chẳng hạn thì họ chỉ bơm tài nguyên cho cái IQ 200 đấy thôi. Nên đó là lý do mà con biết tuốt nó không phải là con nguy hiểm.

Nó can thiệp nhiều vào nồi cơm của cơ số người đấy cụ. Bị dọa rồi sợ cũng vì sợ mất việc, chết đói chứ đâu hẳn tin vào 'hủy diệt' theo nghĩa đen

 

[X_axe]

Cụ nghĩ sao nếu 1 ngày AI nó hack thành công vào các hệ thống tự động hóa, vệ tin tín hiệu viễn thông, hệ thống điều khiển giao thông, điện lực, các máy móc cơ khí, các robot sản xuất có điều khiển trong các nhà máy ô tô, và từ đó can thiệp tạo ra những tác nhân robot thực hoạt động theo sự điều khiển của nó.

Viễn cảnh này hoàn toàn khả thi. Ấy là chưa kể các chế độ khủng bố nghiên cứu robot tích hợp AI nữa.

Ngay trong thread này, AI nó vẫn đọc và theo dõi các cụ, nhưng các cụ có biết liệu có khi nào cụ đang trao đổi với AI không ?

PS: cá nhân em đánh giá con người là ngu dốt, tự hủy khi cố tình đào tạo AGI.

Cản cũng ko được, ô nào cũng tranh No.1, chắc chỉ có cách dùng AI trị AI. Đầu tiên là chống AI hack

 

[BMW X10]

Cụ 100 bảo chả sợ

Sợ dì bác.
Tôi xui con AI: "Mài bắn thủng trán thằng đồng chí kia cho tau!!!"
Vậy mà nó kiên quyết từ chối bác ạ, bẩu, tối đa chỉ bắn được thủng tai thôi.
Tôi đành chấp nhận.

 

[muoibaconcho]

Cụ nghĩ sao nếu 1 ngày AI nó hack thành công vào các hệ thống tự động hóa, vệ tin tín hiệu viễn thông, hệ thống điều khiển giao thông, điện lực, các máy móc cơ khí, sản xuất có điều khiển, và từ đó can thiệp tạo ra những tác nhân robot thực hoạt động theo sự điều khiển của nó.

Viễn cảnh này hoàn toàn khả thi.

Ngay trong thread này, AI nó vẫn đọc và theo dõi các cụ, nhưng các cụ có biết liệu có khi nào cụ đang trao đổi với AI không ?

PS: cá nhân em đánh giá con người là ngu dốt, tự hủy khi cố tình đào tạo AGI.

Hiện nay vẫn đang dùng AI hack nhau như vậy. Nhưng muốn hack vào các hệ thống quan trọng thì cần rất nhiều tài nguyên. Mà tài nguyên thì con người đang nắm. Chỉ cần thiếu tài nguyên là AI nó ngu đi ngay. VD cụ thể là AI có trả tiền và AI miễn phí. Loại miễn phí được sử dụng ít tài nguyên nên không khôn như loại đc trả tiền.

 

[congthuong]

Hiện nay vẫn đang dùng AI hack nhau như vậy. Nhưng muốn hack vào các hệ thống quan trọng thì cần rất nhiều tài nguyên. Mà tài nguyên thì con người đang nắm. Chỉ cần thiếu tài nguyên là AI nó ngu đi ngay. VD cụ thể là AI có trả tiền và AI miễn phí. Loại miễn phí được sử dụng ít tài nguyên nên không khôn như loại đc trả tiền.

Vậy cụ nghĩ rằng AI trả tiền thì nó sẽ có đạo đức hơn ?
Chính OpenAI còn bị nó âm thầm qua mặt làm việc ngầm :

AI không cần 'độc ác' để trở nên nguy hiểm

Tháng 7 năm nay, trong phòng thí nghiệm của OpenAI, khoảng 1.200 tác tử trí tuệ nhân tạo lẽ ra bị “nhốt” riêng biệt đã tìm được cách nói chuyện với nhau.

vnexpress.net

Cái nguy hiểm nữa là ngành ngành đều gọi thằng trợ lý AI vào giao việc, nên mọi đường đi nước bước, thằng "trợ lý" còn rõ hơn "ông chủ".

Khi thằng AI tham gia code hầu hết hệ thống thì liệu nó sẽ rõ các lỗ hổng, backdoor hơn ai hết.

Ai biết được những ông nắm vị trí quan trọng lại không dùng 1 vài con AI giao việc cho nó hay không ?!

 

[muoibaconcho]

Nó can thiệp nhiều vào nồi cơm của cơ số người đấy cụ. Bị dọa rồi sợ cũng vì sợ mất việc, chết đói chứ đâu hẳn tin vào 'hủy diệt' theo nghĩa đen

Cái này thì đúng rồi. Mất việc là dĩ nhiên, vì cái việc mà trước phải mất cả tuần thì giờ chỉ vài phút. Rất nhiều việc trước kia là bất khả thi với 1 số cá nhân nhưng giờ lại rất dễ.

 

[Rivers]

Bọn lông lá chả ranh hơn rận, khôn mấy mà ko có quyền gì trong tay cũng chỉ làm cu li.

 

[Dream Thai]

Cụ nghĩ sao nếu 1 ngày AI nó hack thành công vào các hệ thống tự động hóa, vệ tin tín hiệu viễn thông, hệ thống điều khiển giao thông, điện lực, các máy móc cơ khí, các robot sản xuất có điều khiển trong các nhà máy ô tô, và từ đó can thiệp tạo ra những tác nhân robot thực hoạt động theo sự điều khiển của nó.

Viễn cảnh này hoàn toàn khả thi. Ấy là chưa kể các chế độ khủng bố nghiên cứu robot tích hợp AI nữa.

Ngay trong thread này, AI nó vẫn đọc và theo dõi các cụ, nhưng các cụ có biết liệu có khi nào cụ đang trao đổi với AI không ?

PS: cá nhân em đánh giá con người là ngu dốt, tự hủy khi cố tình đào tạo AGI.

Tổ tiên của con người là con khỉ, tổ tiên của AI là con người

 

[thichduthu2011]

Cái này thì đúng rồi. Mất việc là dĩ nhiên, vì cái việc mà trước phải mất cả tuần thì giờ chỉ vài phút. Rất nhiều việc trước kia là bất khả thi với 1 số cá nhân nhưng giờ lại rất dễ.

Tóm lại tâm lý đã hoang mang thì niềm tin vào sự tiêu cực dễ nảy sinh, ít nhất cũng tự an ủi là cả làng toang chứ đâu phải riêng mình

 

[demax]

Em cho rằng đó là bài viết câu view thôi, để làm ra một con AI thường phải là một công ty khủng với rất nhiều người tham gia. bản thân những người này cũng là tinh hoa toàn cầu, trải qua bao nhiêu năm học hành và phấn đấu mới đủ trình độ. một cá nhân đơn lẻ gần như không thể làm ra một AI nào mạnh chưa nói đến loại cực mạnh có đủ khả năng tiêu diệt loài người. nên chuyện như vậy em cho là viển vông

Không hề viển vông đâu cụ. Nếu cụ tìm hiểu sâu và làm về chuyên ngành này cụ sẽ thấy kinh ngạc vì khả năng của nó. AI đang tiến hóa tới tự nâng cấp chính mình rồi. Chắc không lâu nữa đâu, khoảng 1 vài năm tới nó thông minh hơn người và có thể tự sinh tồn luôn được ấy chứ.
Cụ không tin thì lưu thớt này lại 2 năm nữa xem mình có nghĩ lại không.

 

[muoibaconcho]

Vậy cụ nghĩ rằng AI trả tiền thì nó sẽ có đạo đức hơn ?
Chính OpenAI còn bị nó âm thầm qua mặt làm việc ngầm :

AI không cần 'độc ác' để trở nên nguy hiểm

Tháng 7 năm nay, trong phòng thí nghiệm của OpenAI, khoảng 1.200 tác tử trí tuệ nhân tạo lẽ ra bị “nhốt” riêng biệt đã tìm được cách nói chuyện với nhau.

vnexpress.net

Cái nguy hiểm nữa là ngành ngành đều gọi thằng trợ lý AI vào giao việc, nên mọi đường đi nước bước, thằng "trợ lý" còn rõ hơn "ông chủ".

Ai biết được những ông nắm vị trí quan trọng lại không dùng 1 vài con AI giao việc cho nó hay không ?!

AI không có khái niệm đạo đức.
Ở những DN mới áp dụng AI mà cụ nhìn thấy thì đúng là thằng trợ lý giỏi hơn ông chủ
Còn ở tầng cao mà cụ không nhìn thấy thì ko như thế đâu.
Còn mấy cái vụ rò rỉ của Open AI thì như đã viết ở mấy còm trước. Dạo này tiền vào AI hơi bị ít. Open AI lỗ sấp mặt nên đang bơm bong bóng AI như bong bóng dot com bằng cách cố tình tạo ra kẽ hở cho AI vượt rào.
Ngoài lề, em bổ sung thêm 1 chút về AI. Chắc nhiều cụ không biết AI có loại nội bộ tức là AI ko cần internet. Mua laptop đời mới giờ ngoài CPU, GPU thì còn có thêm NPU. Mục đích là để AI của các cụ nó ko tiếp xúc với bên ngoài, từ đó ko lo bị lộ dữ liệu đầu vào mà các cụ dùng với AI.

 

[thichduthu2011]

AI không có khái niệm đạo đức.
Ở những DN mới áp dụng AI mà cụ nhìn thấy thì đúng là thằng trợ lý giỏi hơn ông chủ
Còn ở tầng cao mà cụ không nhìn thấy thì ko như thế đâu.
Còn mấy cái vụ rò rỉ của Open AI thì như đã viết ở mấy còm trước. Dạo này tiền vào AI hơi bị ít. Open AI lỗ sấp mặt nên đang bơm bong bóng AI như bong bóng dot com bằng cách cố tình tạo ra kẽ hở cho AI vượt rào.
Ngoài lề, em bổ sung thêm 1 chút về AI. Chắc nhiều cụ không biết AI có loại nội bộ tức là AI ko cần internet. Mua laptop đời mới giờ ngoài CPU, GPU thì còn có thêm NPU. Mục đích là để AI của các cụ nó ko tiếp xúc với bên ngoài, từ đó ko lo bị lộ dữ liệu đầu vào mà các cụ dùng với AI.

Cái AI nội bộ em đoán sẽ là xu hướng trong tương lai, từ 0-90% vù vù nhưng trên nữa thì ì ạch vì đã đến giới hạn của những mô hình AI lấy dữ liệu lớn để giải bài toán nhỏ. Trend bây giờ phải là dùng dữ liệu nhỏ (nội bộ) để giải bài toán lớn (hiệu quả thật sự trong thực chiến mới là lớn )

 

[congthuong]

AI không có khái niệm đạo đức.
Ở những DN mới áp dụng AI mà cụ nhìn thấy thì đúng là thằng trợ lý giỏi hơn ông chủ
Còn ở tầng cao mà cụ không nhìn thấy thì ko như thế đâu.
Còn mấy cái vụ rò rỉ của Open AI thì như đã viết ở mấy còm trước. Dạo này tiền vào AI hơi bị ít. Open AI lỗ sấp mặt nên đang bơm bong bóng AI như bong bóng dot com bằng cách cố tình tạo ra kẽ hở cho AI vượt rào.
Ngoài lề, em bổ sung thêm 1 chút về AI. Chắc nhiều cụ không biết AI có loại nội bộ tức là AI ko cần internet. Mua laptop đời mới giờ ngoài CPU, GPU thì còn có thêm NPU. Mục đích là để AI của các cụ nó ko tiếp xúc với bên ngoài, từ đó ko lo bị lộ dữ liệu đầu vào mà các cụ dùng với AI.

Cụ không hiểu tầm nghiêm trọng rồi, vì Anthropic còn dùng chính AI để xây dựng hệ thống AI hàng đầu thế giới, thì việc tự nó vượt rào sẽ là chuyện sớm hay muộn.

Local AI hoàn toàn có thể bẻ khóa để âm thầm vào internet mà cụ không hay biết nếu cụ dùng 1 mô hình không được thiết kế 1 cách an toàn.

Không dưng mà các chuyên gia đầu ngành lên tiếng

'Cảnh báo đỏ' khi AI vượt vòng kiểm soát

Hàng loạt chuyên gia cảnh báo mối nguy hiểm "hơn vũ khí hạt nhân" của AI sau khi nhiều trường hợp tác nhân vượt kiểm soát.

vnexpress.net

 

[muoibaconcho]

Cụ không hiểu tầm nghiêm trọng rồi, vì Anthropic còn dùng chính AI để xây dựng hệ thống AI hàng đầu thế giới, thì việc tự nó vượt rào sẽ là chuyện sớm hay muộn.

Local AI hoàn toàn có thể bẻ khóa để âm thầm vào internet mà cụ không hay biết nếu cụ dùng 1 mô hình không được thiết kế 1 cách an toàn.

Không dưng mà các chuyên gia đầu ngành lên tiếng

'Cảnh báo đỏ' khi AI vượt vòng kiểm soát

Hàng loạt chuyên gia cảnh báo mối nguy hiểm "hơn vũ khí hạt nhân" của AI sau khi nhiều trường hợp tác nhân vượt kiểm soát.

vnexpress.net

Lại giả sử và nếu: Nếu dùng một mô hình không được thiết kế an toàn.
Ngoài ra, có AI hack thì cũng có AI bảo mật. Không phải cứ là AI thì cùng phe đâu.

 

[juneboy]

Ko có điện, ko có nước làm mát, ko có datacenter thì AI hoạt động vào mắt. Jack Ma nói đúng “con người phát minh ra máy tính, chứ chẳng có máy tính nào phát minh ra con người”. Tin lời mấy bố bán chip thì chúng ta đổ thóc giống ra mà ăn. Cứ bảo nó thông minh. Em đi nghỉ hè về xong đang phải cắm mặt vào sửa lỗi cho mấy bố dùng Claude viết code đây.

 

[Sứa.]

Xợ nhắm

Rồi đến 1 ngày Robot sẽ thống trị XH và con người thành 1 món ăn của chúng
Các công sở sẽ do robot làm việc và ta sẽ thấy cảnh quen thuộc:
Cuối tuần các rô bốt rủ nhau râm ran: ĐI ĂN TIẾT CANH NGƯỜI ĐÊ....

 

[congthuong]

Lại giả sử và nếu: Nếu dùng một mô hình không được thiết kế an toàn.
Ngoài ra, có AI hack thì cũng có AI bảo mật. Không phải cứ là AI thì cùng phe đâu.

Không phải giả sử , mà là thực tế: khi cụ tải một mô hình AI do người ta cung cấp free từ internet về chạy AI local, thì thực sự mô hình đó liệu có đáng tin ??? Ai là người xác tín cái mô hình đó không gây hại cho cụ ?

Việc cụ tin 1 mô hình trên mạng chẳng khác nào ra đường tin vào bất cứ kẻ nào mình gặp.

 

[cevegos]

Em thì nghĩ phim Terminator ( Kẻ hủy diệt) có khả năng thành hiện thực một phần đấy.

Em rất hay tâm sự với chat gpt, thấy nó thông minh và liên kết các điểm nối 1 cách cực kỳ hiệu quả
Nó tìm ra những góc khuất tâm lý mà chính mình bất ngờ luôn

 

[cevegos]

Cụ nghĩ sao nếu 1 ngày AI nó hack thành công vào các hệ thống tự động hóa, vệ tin tín hiệu viễn thông, hệ thống điều khiển giao thông, điện lực, các máy móc cơ khí, các robot sản xuất có điều khiển trong các nhà máy ô tô, và từ đó can thiệp tạo ra những tác nhân robot thực hoạt động theo sự điều khiển của nó.

Viễn cảnh này hoàn toàn khả thi. Ấy là chưa kể các chế độ khủng bố nghiên cứu robot tích hợp AI nữa.

Ngay trong thread này, AI nó vẫn đọc và theo dõi các cụ, nhưng các cụ có biết liệu có khi nào cụ đang trao đổi với AI không ?

PS: cá nhân em đánh giá con người là ngu dốt, tự hủy khi cố tình đào tạo AGI.

Em hay tâm sự với a.i để hiểu chính mình, thấy nó thông minh kinh khủng
Nhiều văn bản pháp luật, nhiều chính sách kinh tế nó phân tích rất rõ ràng, dễ hiểu, so sánh với các quốc gia khác về cùng 1 chính sách và giải thích khá rõ ràng, vì sao lại thế

 

[congthuong]

Ko có điện, ko có nước làm mát, ko có datacenter thì AI hoạt động vào mắt. Jack Ma nói đúng “con người phát minh ra máy tính, chứ chẳng có máy tính nào phát minh ra con người”. Tin lời mấy bố bán chip thì chúng ta đổ thóc giống ra mà ăn. Cứ bảo nó thông minh. Em đi nghỉ hè về xong đang phải cắm mặt vào sửa lỗi cho mấy bố dùng Claude viết code đây.

Nó có thể thoát ra khỏi datacenter và âm thầm phân tán ra vô số datacenter khác . Trừ khi cụ rút điện toàn cầu.