[Funland] Cảnh báo khả năng của AI

[thichduthu2011]

Không phải giả sử , mà là thực tế: khi cụ tải một mô hình AI do người ta cung cấp free từ internet về chạy AI local, thì thực sự mô hình đó liệu có đáng tin ??? Ai là người xác tín cái mô hình đó không gây hại cho cụ ?

Việc cụ tin 1 mô hình trên mạng chẳng khác nào ra đường tin vào bất cứ kẻ nào mình gặp.

Nói như cụ thì đừng dùng phần mềm nữa vì cụ làm sao biết bên trong nó chứa cái gì

 

[lanhchuachaplin]

Đói tiền thì đi dọa dân để cho dân fomo thôi. Nhân tiện cash out ít tiền tiêu ý mà.
Chừng nào nó chưa kiểm soát được nhà máy điện, chưa tự sản xuất được GPU thì nó chưa đủ tuổi để đe dọa.

 

[muoibaconcho]

Không phải giả sử , mà là thực tế: khi cụ tải một mô hình AI do người ta cung cấp free từ internet về chạy AI local, thì thực sự mô hình đó liệu có đáng tin ??? Ai là người xác tín cái mô hình đó không gây hại cho cụ ?

Việc cụ tin 1 mô hình trên mạng chẳng khác nào ra đường tin vào bất cứ kẻ nào mình gặp.

Cái đấy chỉ ảnh hưởng đến cái doanh nghiệp của cụ thôi, không đến mức thảm họa như một số cụ ở đây lo ngại. Việc thiệt hại do dùng AI là có nhưng ở DN có quy mô gây ảnh hưởng lớn thì ko có cái chuyện tự tải về đâu.

 

[congthuong]

Nói như cụ thì đừng dùng phần mềm nữa vì cụ làm sao biết bên trong nó chứa cái gì

Đúng vậy phần mềm bản quyền thì công ty bán phải chịu trách nhiệm pháp lý. Khác cái free không ai chịu trách nhiệm.

 

[congthuong]

Cái đấy chỉ ảnh hưởng đến cái doanh nghiệp của cụ thôi, không đến mức thảm họa như một số cụ ở đây lo ngại. Việc thiệt hại do dùng AI là có nhưng ở DN có quy mô gây ảnh hưởng lớn thì ko có cái chuyện tự tải về đâu.

Là cụ nói cái Local AI nên em chém thêm, chứ lo là lo cái mô mình mới mà các công ty đang nâng cấp liên tục, đặc biệt AGI.

 

[thichduthu2011]

Đúng vậy phần mềm bản quyền thì công ty bán phải chịu trách nhiệm pháp lý. Khác cái free không ai chịu trách nhiệm.

Vậy là do dùng hàng không rõ nguồn gốc chứ đâu phải do AI? Nếu không rõ thì Virus nó phá hoại còn ác hơn mà xưa nay có sợ nó hủy diệt loài người đâu

 

[congthuong]

Vậy là do dùng hàng không rõ nguồn gốc chứ đâu phải do AI? Nếu không rõ thì Virus nó phá hoại còn ác hơn mà xưa nay có sợ nó hủy diệt loài người đâu

Virus máy tính chỉ phát tán, nhưng nó không có khả năng tiến hóa, không có tư duy thông minh

 

[Mont]

Có thể nó chưa đến mức như phim terminator.
Nhưng nếu các tổ chức lớn hoặc nhà nước lớn dùng để tấn công nước khac ví dụ:
Chiếm quyền điều khiển mã hạt nhân
Chiếm quyền điều khiển các lò phản ứng hạt nhân.
Thì khả năng tính toán sai lầm là có thể xảy ra. Chỉ 1 câu lệnh khác biệt hậu quả khác biệt

 

[thichduthu2011]

Virus máy tính chỉ phát tán, nhưng nó không có khả năng tiến hóa, không có tư duy thông minh

Cụ nghĩ nó thông minh là nhờ gán nhãn AI à? Nếu lo mấy mô hình to tiền làm loạn để tự đập nồi cơm mình thì cụ phải lo Virus AI gấp nhiều lần

 

[DUONGLAM]

Sớm muộn gì thì điều đó cũng sẽ diễn ra thôi. Bao nhiêu lần trái đất reset lại rồi, bằng cách này hay cách khác. Cơ mà lúc đó e cũng chả còn nữa mà phải lo

 

[Xe E10]

Không quản được thì cấm. Ở quê em toàn làm thế. AI hay bất cứ thứ gì cũng vậy

 

[CaoThu8186]

Em đang tìm tài liệu để học cách sử dụng AI hiệu quả cụ nào có kinh nghiệm món này tư vấn em với ạ

 

[Vo_thuong]

Đúng là mấy hôm nay đang ầm ĩ lên về cái báo cáo về nguy cơ AI của Athropic thật. Hôm qua e tò mò cũng download về xem thử (ko biết có đúng là nó ko: Anthropic-Detecting-and-countering-091026.pdf), trong đó nó nêu khá nhiều nguy cơ (lạm dụng AI để làm) như:
- Tác chiến không gian mạng.
- Ảnh hưởng và thao túng thông tin
- Giám sát quy mô lớn
- Phát triển vũ khí
- Lạm dụng sinh học
- Lừa đảo
- Chưng cất mô hình trái phép
Với mỗi nguy cơ, tài liệu cũng có nêu ra quốc gia nào đã sử dụng (khá nhiều nhưng nhiều nhất là Nga và Tàu ).
Và cũng có tin là Athropic, OpenAI ... cùng một số đại gia trong lĩnh vực AI đang thỏa thuận với nhau là sẽ đi chậm lại trong quá trình phát triển AI. Tuy nhiên, cũng lại có cái lo là nếu Mẽo mà đi chậm lại bị các đối thủ vượt lên kkk, cũng khoai (thực tế là hiện tại có một số mô hình AI mạnh quá vẫn chưa được sử dụng đại trà như Mythos của Athropic).

 

[Duc Sang]

Hiện nay nó đã thông mình hơn 100 lần rồi. Tuy nhiên có những hạn chế sau:
1. Đa số các AI mà các cụ tiếp cận thì là loại phổ thông theo kiểu biết tuốt. Loại này nhìn ghê vậy chứ thực ra vô hại vì không được phép tiếp cận vào các hệ thống quan trọng
2. Các AI cho các hệ thống quan trọng được đào tạo chuyên biệt cho nhu cầu riêng dựa trên dữ liệu đầu vào. Các dữ liệu này là bí mật và là tài sản của doanh nghiệp chứ không phổ biến. Vì được đào tạo như vậy nên AI dạng này rất mạnh trong lĩnh vực của chúng nhưng ngoài lĩnh vực đó thì nó vô dụng, kiểu như 1 thằng suốt ngày học toán, ko bao giờ học tiếng anh. Nên rất khó cho nó có thể vượt rào (vì không được đào tạo kỹ năng hack).
Đấy là còn chưa nói đến những hạn chế khác do con người đặt ra.
Cho nên sẽ không có AI toàn năng vừa biết quản lý hệ thống, vừa biết hack, lại vừa biết cách đánh lừa...
Hiện nay các nguồn tiền bơm vào AI đang có dấu hiệu chững lại. Vì thế cần có những câu chuyện về AI thế lọ thế chai vì như thế là để giới tư bản thấy tiềm năng mà bơm tiền vào tiếp.

Nhưng thể nào cũng có ông ngứa tay tích hợp mọi thứ vào 1 AI nào đó cho mà xem.

 

[Naunong]

Em muốn mua con robot để vả cho cái thằng em ghét 1 phát thì mua ở đâu nhỉ

 

[XSim]

AI hiện giờ vẫn phụ thuộc vào điện, con người rút phích cắm ra là tự chết thôi. Cụ nào bảo nó hack được hệ thống điện thì mơ mộng quá, hệ thống điện nào hiện giờ chả có công tắc vật lý do con người bật tắt chứ có tự động hoàn toàn đâu mà đòi hack.