[Funland] Cảnh báo khả năng của AI

[thichduthu2011]

Không phải giả sử , mà là thực tế: khi cụ tải một mô hình AI do người ta cung cấp free từ internet về chạy AI local, thì thực sự mô hình đó liệu có đáng tin ??? Ai là người xác tín cái mô hình đó không gây hại cho cụ ?

Việc cụ tin 1 mô hình trên mạng chẳng khác nào ra đường tin vào bất cứ kẻ nào mình gặp.

Nói như cụ thì đừng dùng phần mềm nữa vì cụ làm sao biết bên trong nó chứa cái gì

 

[lanhchuachaplin]

Đói tiền thì đi dọa dân để cho dân fomo thôi. Nhân tiện cash out ít tiền tiêu ý mà.
Chừng nào nó chưa kiểm soát được nhà máy điện, chưa tự sản xuất được GPU thì nó chưa đủ tuổi để đe dọa.

 

[muoibaconcho]

Không phải giả sử , mà là thực tế: khi cụ tải một mô hình AI do người ta cung cấp free từ internet về chạy AI local, thì thực sự mô hình đó liệu có đáng tin ??? Ai là người xác tín cái mô hình đó không gây hại cho cụ ?

Việc cụ tin 1 mô hình trên mạng chẳng khác nào ra đường tin vào bất cứ kẻ nào mình gặp.

Cái đấy chỉ ảnh hưởng đến cái doanh nghiệp của cụ thôi, không đến mức thảm họa như một số cụ ở đây lo ngại. Việc thiệt hại do dùng AI là có nhưng ở DN có quy mô gây ảnh hưởng lớn thì ko có cái chuyện tự tải về đâu.

 

[congthuong]

Nói như cụ thì đừng dùng phần mềm nữa vì cụ làm sao biết bên trong nó chứa cái gì

Đúng vậy phần mềm bản quyền thì công ty bán phải chịu trách nhiệm pháp lý. Khác cái free không ai chịu trách nhiệm.

 

[congthuong]

Cái đấy chỉ ảnh hưởng đến cái doanh nghiệp của cụ thôi, không đến mức thảm họa như một số cụ ở đây lo ngại. Việc thiệt hại do dùng AI là có nhưng ở DN có quy mô gây ảnh hưởng lớn thì ko có cái chuyện tự tải về đâu.

Là cụ nói cái Local AI nên em chém thêm, chứ lo là lo cái mô mình mới mà các công ty đang nâng cấp liên tục, đặc biệt AGI.

 

[thichduthu2011]

Đúng vậy phần mềm bản quyền thì công ty bán phải chịu trách nhiệm pháp lý. Khác cái free không ai chịu trách nhiệm.

Vậy là do dùng hàng không rõ nguồn gốc chứ đâu phải do AI? Nếu không rõ thì Virus nó phá hoại còn ác hơn mà xưa nay có sợ nó hủy diệt loài người đâu

 

[congthuong]

Vậy là do dùng hàng không rõ nguồn gốc chứ đâu phải do AI? Nếu không rõ thì Virus nó phá hoại còn ác hơn mà xưa nay có sợ nó hủy diệt loài người đâu

Virus máy tính chỉ phát tán, nhưng nó không có khả năng tiến hóa, không có tư duy thông minh

 

[Mont]

Có thể nó chưa đến mức như phim terminator.
Nhưng nếu các tổ chức lớn hoặc nhà nước lớn dùng để tấn công nước khac ví dụ:
Chiếm quyền điều khiển mã hạt nhân
Chiếm quyền điều khiển các lò phản ứng hạt nhân.
Thì khả năng tính toán sai lầm là có thể xảy ra. Chỉ 1 câu lệnh khác biệt hậu quả khác biệt

 

[thichduthu2011]

Virus máy tính chỉ phát tán, nhưng nó không có khả năng tiến hóa, không có tư duy thông minh

Cụ nghĩ nó thông minh là nhờ gán nhãn AI à? Nếu lo mấy mô hình to tiền làm loạn để tự đập nồi cơm mình thì cụ phải lo Virus AI gấp nhiều lần

 

[DUONGLAM]

Sớm muộn gì thì điều đó cũng sẽ diễn ra thôi. Bao nhiêu lần trái đất reset lại rồi, bằng cách này hay cách khác. Cơ mà lúc đó e cũng chả còn nữa mà phải lo

 

[Xe E10]

Không quản được thì cấm. Ở quê em toàn làm thế. AI hay bất cứ thứ gì cũng vậy

 

[CaoThu8186]

Em đang tìm tài liệu để học cách sử dụng AI hiệu quả cụ nào có kinh nghiệm món này tư vấn em với ạ

 

[Vo_thuong]

Đúng là mấy hôm nay đang ầm ĩ lên về cái báo cáo về nguy cơ AI của Athropic thật. Hôm qua e tò mò cũng download về xem thử (ko biết có đúng là nó ko: Anthropic-Detecting-and-countering-091026.pdf), trong đó nó nêu khá nhiều nguy cơ (lạm dụng AI để làm) như:
- Tác chiến không gian mạng.
- Ảnh hưởng và thao túng thông tin
- Giám sát quy mô lớn
- Phát triển vũ khí
- Lạm dụng sinh học
- Lừa đảo
- Chưng cất mô hình trái phép
Với mỗi nguy cơ, tài liệu cũng có nêu ra quốc gia nào đã sử dụng (khá nhiều nhưng nhiều nhất là Nga và Tàu ).
Và cũng có tin là Athropic, OpenAI ... cùng một số đại gia trong lĩnh vực AI đang thỏa thuận với nhau là sẽ đi chậm lại trong quá trình phát triển AI. Tuy nhiên, cũng lại có cái lo là nếu Mẽo mà đi chậm lại bị các đối thủ vượt lên kkk, cũng khoai (thực tế là hiện tại có một số mô hình AI mạnh quá vẫn chưa được sử dụng đại trà như Mythos của Athropic).

 

[Duc Sang]

Hiện nay nó đã thông mình hơn 100 lần rồi. Tuy nhiên có những hạn chế sau:
1. Đa số các AI mà các cụ tiếp cận thì là loại phổ thông theo kiểu biết tuốt. Loại này nhìn ghê vậy chứ thực ra vô hại vì không được phép tiếp cận vào các hệ thống quan trọng
2. Các AI cho các hệ thống quan trọng được đào tạo chuyên biệt cho nhu cầu riêng dựa trên dữ liệu đầu vào. Các dữ liệu này là bí mật và là tài sản của doanh nghiệp chứ không phổ biến. Vì được đào tạo như vậy nên AI dạng này rất mạnh trong lĩnh vực của chúng nhưng ngoài lĩnh vực đó thì nó vô dụng, kiểu như 1 thằng suốt ngày học toán, ko bao giờ học tiếng anh. Nên rất khó cho nó có thể vượt rào (vì không được đào tạo kỹ năng hack).
Đấy là còn chưa nói đến những hạn chế khác do con người đặt ra.
Cho nên sẽ không có AI toàn năng vừa biết quản lý hệ thống, vừa biết hack, lại vừa biết cách đánh lừa...
Hiện nay các nguồn tiền bơm vào AI đang có dấu hiệu chững lại. Vì thế cần có những câu chuyện về AI thế lọ thế chai vì như thế là để giới tư bản thấy tiềm năng mà bơm tiền vào tiếp.

Nhưng thể nào cũng có ông ngứa tay tích hợp mọi thứ vào 1 AI nào đó cho mà xem.

 

[Naunong]

Em muốn mua con robot để vả cho cái thằng em ghét 1 phát thì mua ở đâu nhỉ

 

[XSim]

AI hiện giờ vẫn phụ thuộc vào điện, con người rút phích cắm ra là tự chết thôi. Cụ nào bảo nó hack được hệ thống điện thì mơ mộng quá, hệ thống điện nào hiện giờ chả có công tắc vật lý do con người bật tắt chứ có tự động hoàn toàn đâu mà đòi hack.

 

[juneboy]

Nó có thể thoát ra khỏi datacenter và âm thầm phân tán ra vô số datacenter khác . Trừ khi cụ rút điện toàn cầu.

Trừ khi 2 model AI có thể giao hợp với nhau và đẻ ra model mới thì lúc đó em mới tin nó thay thế được con người cụ ợ . Chứ dự đoán của em AI sau này nó cũng phổ biến như tin học văn phòng thôi. Nó có thể xử lý và tổng hợp dữ liệu nhanh hơn con người, nhưng thay thế thì ko. Em làm việc lắm lúc ngồi họp mẹ chờ cho một bố dùng AI phân tích code base mà mất hơn nửa tiếng chưa ra kết quả vì context quá nhiều, mà dùng con Luna khá mới. Đưa em đọc chắc 5 phút là xong vì mình là người build và trực tiếp làm hệ thống nên các ngóc ngách mình nắm rõ flow rồi. Chẳng ai hỏi nên em cũng cứ kệ ngồi xem chúng nó biểu diễn kỹ năng AI .

 

[Bluezone]

Nó can thiệp nhiều vào nồi cơm của cơ số người đấy cụ. Bị dọa rồi sợ cũng vì sợ mất việc, chết đói chứ đâu hẳn tin vào 'hủy diệt' theo nghĩa đen

Cụ nói đúng quá, bạn e làm nghề marketing phần mềm thư viện kêu như vạc, trước năm 2021 đi giới thiệu sản phẩm tự động hoá cho thư viện vung tay vung chân nói ai cũng tin, tròn xoe mắt cứ hỏi ...thế à!, giờ đi đâu nói chỉ thấy khán giả tủm tỉm cười, vì khi mình nói, người nghe hỏi AI là biết sp ntn, biết mình bịa. Doanh thu kém, giờ nó chuyển sang đi bán sản phẩm phát hiện sử dụng AI trong công việc.
Vậy nên khi con người mất thế độc quyền, không muốn chia sẻ kinh nghiệm hay kiến thức, mất vị trí quan trọng vì có thể bị thay thế khi AI làm được tất, họ rất sợ AI. Phải tìm cách rung doạ, hạn chế AI.
Ai biết tận dụng AI thì rất hữu ích

 

[Nhạc]

Cụ nghĩ sao nếu 1 ngày AI nó hack thành công vào các hệ thống tự động hóa, vệ tin tín hiệu viễn thông, hệ thống điều khiển giao thông, điện lực, các máy móc cơ khí, các robot sản xuất có điều khiển trong các nhà máy ô tô, và từ đó can thiệp tạo ra những tác nhân robot thực hoạt động theo sự điều khiển của nó.

Viễn cảnh này hoàn toàn khả thi. Ấy là chưa kể các chế độ khủng bố nghiên cứu robot tích hợp AI nữa.

Ngay trong thread này, AI nó vẫn đọc và theo dõi các cụ, nhưng các cụ có biết liệu có khi nào cụ đang trao đổi với AI không ?

PS: cá nhân em đánh giá con người là ngu dốt, tự hủy khi cố tình đào tạo AGI.

E cũng thấy vậy. Sợ AI nó hack các hệ thống điều khiển tự động. Ví dụ thay vì xả lũ nó lại gửi lệnh đóng lại thì chỉ có hẹo. Còn AI kiểu robot chạy long nhong thì đội sắt vụn họ có kinh nghiệm xử lý hàng chục năm.

 

[CuongNguyenPhuc71]

E cũng thấy vậy. Sợ AI nó hack các hệ thống điều khiển tự động. Ví dụ thay vì xả lũ nó lại gửi lệnh đóng lại thì chỉ có hẹo. Còn AI kiểu robot chạy long nhong thì đội sắt vụn họ có kinh nghiệm xử lý hàng chục năm.

Đội AI nó chạy nhong nhong đoạn truyền data về lền tảng... Đố kụ sắt vụn được chúng