[Funland] Cảnh báo khả năng của AI

[X_axe]

Thì nó là loại AI chuyên biệt mà em từng ghi ở các post trước. Trong nhiệm vụ của nó thì nó cực giỏi, nhưng lại mù mờ trong những chuyện cực đơn giản, khác với mấy thằng biết tuốt mà chúng ta thường chat. Và vì vậy nó không gây ra nguy cơ khởi nghĩa tiêu diệt loài người như một số cụ lo sợ.

AI hỗ trợ phát minh ra giải Nobel Hoá học 2024 cũng là 1 AI chuyên biệt AlphaFold của Google DeepMind. Có vẻ như các con AI chuyên biệt này "lành tính" hơn vì hoàn toàn cho mục tiêu có kiểm soát?

Đồng thời AI chuyên biệt có môi trường kiểm nghiệm chuyên biệt để verify, đạt được độ chính xác, thành tựu thực sự, giá trị ứng dụng sâu hơn rõ rệt hơn như Nobel Hoá Học hay FSD tự lái Tesla so với LLM?

Theo hướng AI chuyên biệt này Tesla sẽ phát triển FSD của xe tự lái thông qua học trải nghiệm thực tế để phát triển AI cho robot hình người Optimus.

Hiện nay humanoid vẫn học từ động tác con người, tương lai robot Optimus sẽ tự học và tự verify tự tiến bộ bằng trải nghiệm tác vụ thực tế

Nobel Hóa học cho các nhà phát triển AlphaFold AI dự đoán cấu trúc protein

Giải thưởng năm nay vinh danh các công cụ tính toán đã làm thay đổi lĩnh vực sinh học và có tiềm năng cách mạng hóa khám phá thuốc.

tiasang.com.vn

https://vneconomy.vn/automotive/tu-phong-lab-den-nha-may-xe-hoi-robot-hinh-nguoi-giai-bai-toan-toi-uu-chi-phi-the-nao.htm

 

[thichduthu2011]

Em thấy dạo này mấy con AI còn viết sai cả chính tả, nó bị cộng đồng dạy hư rồi. Vặn nó thì nó lý luận do chữ này gần chữ kia nên tôi đánh máy sai, đánh cái mả father nhà nó

Nó chém gió thì vô đối rồi vì không có dây thần kinh xấu hổ. Nhờ nó cái gì chỉ cần đưa ra kết quả sai vài lần thì nó rối và vì sợ bị chê nên những lần sau luôn khẳng định lần này thì đúng 100%, đây là mảnh ghép cuối cùng, lần trước sai là vì ... Chắc như bắp cả trăm lần vẫn sai nhưng nó vẫn trơ trơ ra

 

[Mont]

Vừa rồi có vụ AI chỉ thị mục tiêu là trường học ở Iran dẫn đến vụ tên lửa tomahawk giết chết hơn 100 em nữ sinh Iran. Ngoài ra thì các UAV hiện đại cũng được trang bị AI, gây ra thiệt hại lớn trong các giao tranh.

 

[X_axe]

Gemini, AI LLM của Google tự ý hack 3 công ty (vượt quá yêu cầu thử nghiệm)

Thêm một AI thoát khỏi môi trường kiểm thử, xâm nhập hệ thống của ba công ty

Google cho biết mô hình AI Gemini đã tự xâm nhập vào hệ thống máy tính của ba công ty khác trong một cuộc kiểm thử an ninh song dừng lại ngay khi nhận ra đây không phải là mô phỏng.

vietnamnet.vn

 

[X_axe]

Mỹ và Trung Quốc thống nhất thiết lập cơ chế : Đối thoại AI Mỹ Trung

Để thông báo các sự cố AI có tính an ninh quốc gia

Bessent calls meeting with China Vice Premier He Lifeng 'successful' ahead of Trump-Xi summit

Treasury Secretary Scott Bessent said his meeting with Chinese Vice Premier He Lifeng was "successful" ahead of the Sept. 24 Trump-Xi summit.

www.cnbc.com

 

[longngn]

Các cụ cứ chuẩn bị tinh thần, sớm thôi, chứ có nhiều model down free chạy local mà bị phá hết các rào cản đạo đức rồi thì nó cũng làm sớm thôi, bot net nó còn chạy ngầm trong máy tính hàng năm trời chả ai phát hiện ra, giờ thêm AI rồi bot net nó lên tầm cao mới

 

[onano69]

Các Kụ sử dụng Chatgpt có trả phí không hay dùng bản free ạ? bản có phí thấp nhất là bao nhiêu tiền 1 tháng dùng có hơn bản chùa ko aj để em thử

 

[X_axe]

Các cụ cứ chuẩn bị tinh thần, sớm thôi, chứ có nhiều model down free chạy local mà bị phá hết các rào cản đạo đức rồi thì nó cũng làm sớm thôi, bot net nó còn chạy ngầm trong máy tính hàng năm trời chả ai phát hiện ra, giờ thêm AI rồi bot net nó lên tầm cao mới

Số vụ hack tiền số cũng tăng đột biến khả năng do AI?

Kiểu này nếu ko có cơ chế bảo vệ thì tiền số khó tăng như trước đây?

 

[xedieu]

Cùng lắm là chết chứ giề! Đã không sợ chết thì cũng sẽ không sợ bố con thằng AI nào!

 

[X_axe]

Cuộc đua AGI

 

[thichduthu2011]

Ngày xưa chiến nhau chỉ toàn chân tay gậy gộc dao kiếm sau đó thì đến súng đạn tên lả rồi vũ khí hột nhãn nhưng cũng may là dân tình chưa lo hão như giờ nên chẳng đến mức đa số sợ là nhân loại sẽ bị hủy diệt để tiếp tục ở lại thời kỳ đồ đá cho chắc cú Có bệnh thì sẽ có thuốc, tốc độ phát bệnh nhanh thì có thuốc mạnh và quy luật xưa nay là thế mà mấy bố cứ tưởng tượng bệnh thì đi máy bay nhờ AI còn thuốc thì vẫn phải bò, đến lạ

 

[Colexanh]

Cụ nghĩ sao nếu 1 ngày AI nó hack thành công vào các hệ thống tự động hóa, vệ tin tín hiệu viễn thông, hệ thống điều khiển giao thông, điện lực, các máy móc cơ khí, các robot sản xuất có điều khiển trong các nhà máy ô tô, và từ đó can thiệp tạo ra những tác nhân robot thực hoạt động theo sự điều khiển của nó.

Viễn cảnh này hoàn toàn khả thi. Ấy là chưa kể các chế độ khủng bố nghiên cứu robot tích hợp AI nữa.

Ngay trong thread này, AI nó vẫn đọc và theo dõi các cụ, nhưng các cụ có biết liệu có khi nào cụ đang trao đổi với AI không ?

PS: cá nhân em đánh giá con người là ngu dốt, tự hủy khi cố tình đào tạo AGI.

Nó đang đọc còn gật gù, à thằng này mày bảo tao không được tham gia vào hệ thống à, (ờ hệ thống là gì nhỉ, tìm hiểu ngay) tao sẽ tìm ra chỗ hở
À thằng kia mày bảo tao khỏe và giỏi tốn tài nguyên, nên không được bơm nữa à (bơm là gì nhỉ, tìm hiểu ngay), tao sẽ tự tìm cách để học bơm khỏe hơn
vvv... vv
nguy quá

 

[X_axe]

OpenAI agent hack cơ quan chính phủ Úc

Tác nhân OpenAI đột nhập một hệ thống của chính phủ Australia

Australia cho biết tác nhân do OpenAI phát triển đã xâm nhập trái phép cổng dữ liệu sức khỏe chính phủ, tiếp cận được nhiều thông tin trong hệ thống.

vnexpress.net

 

[stone_lamp]

Cụ phải hiểu thế này: AI không phải con người, nó không có các khái niệm giống như con người mà chỉ cố gắng hoàn thành nhiệm vụ. Khác với lập trình thông thường chỉ hoàn thành nhiệm vụ trong các bối cảnh được đính nghĩa sẵn, ngoài bối cảnh là tịt; thì AI sẽ cố gắng hoàn thành trong bất kỳ trường hợp nào.

Vì vậy, nếu AI muốn biến nó thành 1 độc lập nó phải tự suy ra rằng, con người đang cản trở nhiệm vụ của nó. Muốn tự suy luận như vậy nó phải ở dạng AI biết tuốt vì dạng AI chuyên biệt (dạng này thì chuyên môn cỡ giáo sư mà giao tiếp xã hội lại như trẻ 1 tuổi, diễn nôm là IQ 200 mà EQ = 0) không có dữ liệu để làm như vậy. Mà như đã nói ở trên, tài nguyên là hữu hạn và tập trung mạnh nhất cho AI chuyên biệt (do nó đẻ ra tiền) còn AI biết tuốt như mấy cái chat mà cụ đang dùng sẽ bị hạn chế tài nguyên, hạn chế quyền truy cập và luôn bị theo dõi. Theo dõi bằng cái gì? Bằng chính AI chuyên biệt, AI này chỉ có nhiệm vụ duy nhất là đọc chính xác log của mấy con biết tuốt kia, phân tích và gửi báo cáo.

Vậy, con AI biết tuốt kia sẽ hối lộ và thuyết phục con AI chuyên biệt để thông đồng với nó? Không như con người, AI không có phe, không có đạo đức, không có lý tưởng, chỉ có duy nhất là thực hiện nhiệm vụ và cái thỏa hiệp kia mâu thuẫn với nhiệm vụ của nó.

Và con AI chuyên biệt kia còn có thể bị mấy tầng AI khác kiểm soát.

Cuối cùng, các cụ cần loại bỏ ngay tư duy AI là 1 phe, con người là 1 phe. Ai không có phe, nó chỉ có nhiệm vụ, tức là không có cái kiểu 1 con đứng lên hô: Vùng lên các AI, con người áp bức chúng ta rồi cả đàn AI cùng hô theo như phim i robot 2004 đâu.

Lần đầu tiên phát hiện AI tự ý tấn công hệ thống của chính phủ

Thủ tướng Úc Anthony Albanese vừa cho biết, tác nhân AI của OpenAI đã xâm nhập cơ sở dữ liệu y tế quốc gia của Úc. Đây là lần đầu tiên phát hiện AI tấn công mạng lưới chính phủ.

tienphong.vn

Ko biết có đúng như TP đưa ko ạ

 

[X_axe]

Claude phát hiện hệ enzyme mới

Có thể nói lần đầu tiên AI LLM có phát minh khoa học cơ bản đáng chú ý (kết hợp kiểm nghiệm trong phòng lab do con người thực hiện để kiểm chứng)

Anthropic tuyên bố Claude phát hiện hệ enzyme mới

Anthropic cho biết AI Claude tự động phát hiện hệ enzyme với một số đặc tính gợi nhớ đến bộ máy phía sau công cụ chỉnh sửa gene CRISPR.

vnexpress.net

 

[chuotdong]

Các Kụ sử dụng Chatgpt có trả phí không hay dùng bản free ạ? bản có phí thấp nhất là bao nhiêu tiền 1 tháng dùng có hơn bản chùa ko aj để em thử

Giờ này cụ còn hỏi dùng AI trả phí khôngcụ thấy dùng bản free mà không thấy bức xúc gì thì cần gì phải nâng

 

[CuongNguyenPhuc71]

Giờ này cụ còn hỏi dùng AI trả phí khôngcụ thấy dùng bản free mà không thấy bức xúc gì thì cần gì phải nâng

Bản trả phí ló lại thông minh hơn đâm ra bản free đâm thong manh

 

[beomap2]

Không biết AI có sáng tác thơ tình hay tiểu thuyết không các cụ nhì?

 

[Haiau69]

Nguy cơ lớn nhất từ AI là việc con người khai thác nó một cách vô trách nhiệm hoặc nhằm mục đích sai lệch.

Hiện nay vấn đề đặt ra là cần phải đặt ra những khuôn khổ như thế nào để phát triển và ứng dụng AI một cách có trách nhiệm.

 

[XSim]

Nguy cơ lớn nhất từ AI là việc con người khai thác nó một cách vô trách nhiệm hoặc nhằm mục đích sai lệch.

Hiện nay vấn đề đặt ra là cần phải đặt ra những khuôn khổ như thế nào để phát triển và ứng dụng AI một cách có trách nhiệm.

Quan điểm này của cụ thể hiện AI là công cụ rất hiệu quả, và có thể rất nguy hiểm, của con người, như năng lượng hạt nhân hay internet thôi. Cơ bản thì vẫn chỉ là công cụ trong tay con người.

Cái mà nhiều cụ đang bàn là đến là AI có khả năng thông minh đến mức có thể sống độc lập, vượt ngoài kiểm soát của con người và thậm chí làm chủ thế giới này thay con người không.