[Funland] Cảnh báo khả năng của AI

[thichduthu2011]

Không phải giả sử , mà là thực tế: khi cụ tải một mô hình AI do người ta cung cấp free từ internet về chạy AI local, thì thực sự mô hình đó liệu có đáng tin ??? Ai là người xác tín cái mô hình đó không gây hại cho cụ ?

Việc cụ tin 1 mô hình trên mạng chẳng khác nào ra đường tin vào bất cứ kẻ nào mình gặp.

Nói như cụ thì đừng dùng phần mềm nữa vì cụ làm sao biết bên trong nó chứa cái gì

 

[lanhchuachaplin]

Đói tiền thì đi dọa dân để cho dân fomo thôi. Nhân tiện cash out ít tiền tiêu ý mà.
Chừng nào nó chưa kiểm soát được nhà máy điện, chưa tự sản xuất được GPU thì nó chưa đủ tuổi để đe dọa.

 

[muoibaconcho]

Không phải giả sử , mà là thực tế: khi cụ tải một mô hình AI do người ta cung cấp free từ internet về chạy AI local, thì thực sự mô hình đó liệu có đáng tin ??? Ai là người xác tín cái mô hình đó không gây hại cho cụ ?

Việc cụ tin 1 mô hình trên mạng chẳng khác nào ra đường tin vào bất cứ kẻ nào mình gặp.

Cái đấy chỉ ảnh hưởng đến cái doanh nghiệp của cụ thôi, không đến mức thảm họa như một số cụ ở đây lo ngại. Việc thiệt hại do dùng AI là có nhưng ở DN có quy mô gây ảnh hưởng lớn thì ko có cái chuyện tự tải về đâu.

 

[congthuong]

Nói như cụ thì đừng dùng phần mềm nữa vì cụ làm sao biết bên trong nó chứa cái gì

Đúng vậy phần mềm bản quyền thì công ty bán phải chịu trách nhiệm pháp lý. Khác cái free không ai chịu trách nhiệm.

 

[congthuong]

Cái đấy chỉ ảnh hưởng đến cái doanh nghiệp của cụ thôi, không đến mức thảm họa như một số cụ ở đây lo ngại. Việc thiệt hại do dùng AI là có nhưng ở DN có quy mô gây ảnh hưởng lớn thì ko có cái chuyện tự tải về đâu.

Là cụ nói cái Local AI nên em chém thêm, chứ lo là lo cái mô mình mới mà các công ty đang nâng cấp liên tục, đặc biệt AGI.

 

[thichduthu2011]

Đúng vậy phần mềm bản quyền thì công ty bán phải chịu trách nhiệm pháp lý. Khác cái free không ai chịu trách nhiệm.

Vậy là do dùng hàng không rõ nguồn gốc chứ đâu phải do AI? Nếu không rõ thì Virus nó phá hoại còn ác hơn mà xưa nay có sợ nó hủy diệt loài người đâu

 

[congthuong]

Vậy là do dùng hàng không rõ nguồn gốc chứ đâu phải do AI? Nếu không rõ thì Virus nó phá hoại còn ác hơn mà xưa nay có sợ nó hủy diệt loài người đâu

Virus máy tính chỉ phát tán, nhưng nó không có khả năng tiến hóa, không có tư duy thông minh

 

[Mont]

Có thể nó chưa đến mức như phim terminator.
Nhưng nếu các tổ chức lớn hoặc nhà nước lớn dùng để tấn công nước khac ví dụ:
Chiếm quyền điều khiển mã hạt nhân
Chiếm quyền điều khiển các lò phản ứng hạt nhân.
Thì khả năng tính toán sai lầm là có thể xảy ra. Chỉ 1 câu lệnh khác biệt hậu quả khác biệt

 

[thichduthu2011]

Virus máy tính chỉ phát tán, nhưng nó không có khả năng tiến hóa, không có tư duy thông minh

Cụ nghĩ nó thông minh là nhờ gán nhãn AI à? Nếu lo mấy mô hình to tiền làm loạn để tự đập nồi cơm mình thì cụ phải lo Virus AI gấp nhiều lần

 

[DUONGLAM]

Sớm muộn gì thì điều đó cũng sẽ diễn ra thôi. Bao nhiêu lần trái đất reset lại rồi, bằng cách này hay cách khác. Cơ mà lúc đó e cũng chả còn nữa mà phải lo

 

[Xe E10]

Không quản được thì cấm. Ở quê em toàn làm thế. AI hay bất cứ thứ gì cũng vậy

 

[CaoThu8186]

Em đang tìm tài liệu để học cách sử dụng AI hiệu quả cụ nào có kinh nghiệm món này tư vấn em với ạ

 

[Vo_thuong]

Đúng là mấy hôm nay đang ầm ĩ lên về cái báo cáo về nguy cơ AI của Athropic thật. Hôm qua e tò mò cũng download về xem thử (ko biết có đúng là nó ko: Anthropic-Detecting-and-countering-091026.pdf), trong đó nó nêu khá nhiều nguy cơ (lạm dụng AI để làm) như:
- Tác chiến không gian mạng.
- Ảnh hưởng và thao túng thông tin
- Giám sát quy mô lớn
- Phát triển vũ khí
- Lạm dụng sinh học
- Lừa đảo
- Chưng cất mô hình trái phép
Với mỗi nguy cơ, tài liệu cũng có nêu ra quốc gia nào đã sử dụng (khá nhiều nhưng nhiều nhất là Nga và Tàu ).
Và cũng có tin là Athropic, OpenAI ... cùng một số đại gia trong lĩnh vực AI đang thỏa thuận với nhau là sẽ đi chậm lại trong quá trình phát triển AI. Tuy nhiên, cũng lại có cái lo là nếu Mẽo mà đi chậm lại bị các đối thủ vượt lên kkk, cũng khoai (thực tế là hiện tại có một số mô hình AI mạnh quá vẫn chưa được sử dụng đại trà như Mythos của Athropic).