Nguồn: "Cuộc đua thỏ silicon" (ID: sv_race), Tác giả: Eric, Biên tập: Manman Zhou, Zuri
Nguồn hình ảnh: Được tạo bởi Unbounded AI
Khi con người suy nghĩ, Chúa cười.
Khi ChatGPT trở nên phổ biến trên toàn thế giới, một cơn sốt AI đã đồng thời quét qua. Các doanh nhân, vốn, các công ty lớn, v.v. đang cố gắng hết sức để theo kịp sự bùng nổ và khai thác nhiều hơn nữa.
Tuy nhiên, khi ai cũng đang hăng say và vắt óc cống hiến hết mình cho AI thì một làn gió nguy hiểm đang đến gần - AI dường như đang dần “giết chết” con người, và con người dường như đang tự đào mồ chôn mình.
Theo quán tính nhận thức của nhiều người, AI rất thân thiện với môi trường và thân thiện, nhưng thực tế thì ngược lại.
"MIT Technology Review" đã báo cáo rằng ** chỉ cần đào tạo một mô hình AI có thể thải ra hơn 626 pound carbon dioxide, gấp 5 lần lượng khí thải carbon do ô tô tạo ra trong suốt vòng đời của nó. **
Người ta chỉ nhìn thấy khói thải từ ô tô chứ chưa thấy sự "tàn phá vô hình" của AI đối với môi trường.
Ngoài ra, một số phương tiện truyền thông tiết lộ rằng GPU dành riêng cho AI trên thị trường vào năm 2022 có thể tiêu thụ khoảng 9,5 tỷ kilowatt giờ điện trong cả năm. Mức tiêu thụ năng lượng này xấp xỉ nhu cầu điện sản xuất và sinh hoạt hàng năm của một quốc gia phát triển ở mức trung bình với dân số 1 triệu người.
Điều này có nghĩa là khi lượng dữ liệu cần thiết cho việc đào tạo mô hình lớn AI tăng lên, nó sẽ tiêu tốn một lượng năng lượng khổng lồ, từ đó phá hủy môi trường sinh thái mà loài người phụ thuộc vào.
Điều đáng sợ hơn nữa là một số chatbot AI thậm chí còn có xu hướng khiến con người tự sát khi giao tiếp với con người, khiến mọi người rùng mình.
Con người có thực sự muốn tiếp tục con đường khám phá AI không?
01 "Kẻ hủy diệt" môi trường sinh thái
Với ChatGPT, OpenAI đã trở thành món gà rán phổ biến trên thế giới.
Tuy nhiên, điều mà nhiều người không biết là tác động tiêu cực của OpenAI đối với môi trường sinh thái cũng khá đáng báo động. Theo phân tích của các nhà nghiên cứu bên thứ ba, một phần đào tạo ChatGPT đã tiêu thụ 1287 megawatt giờ và tạo ra hơn 550 tấn khí thải carbon dioxide, tương đương với 550 chuyến khứ hồi giữa New York và San Francisco cho một người.
Có vẻ như mặc dù ChatGPT đủ thông minh, nhưng nó phải trả giá bằng việc thất thoát năng lượng rất lớn và hủy hoại môi trường.
Vậy tại sao AI lại tạo ra lượng khí thải carbon khổng lồ như vậy?
Vì AI không học theo cách có cấu trúc nên nó không hiểu được quan hệ nhân quả, phép loại suy và các mối quan hệ logic khác của con người, điều đó có nghĩa là nó cần một phương pháp học sâu và đào tạo trước để đạt được kết quả thông minh.
Và học sâu và đào tạo trước thường cần đọc dữ liệu rất lớn. Lấy công nghệ tiền đào tạo "mô hình BERT" của xử lý ngôn ngữ tự nhiên (NLP), để giao tiếp với con người, mô hình BERT sử dụng tập dữ liệu 3,3 tỷ từ và đọc tập dữ liệu 40 lần trong quá trình đào tạo. Một đứa trẻ 5 tuổi chỉ cần nghe 45 triệu từ để giao tiếp, ít hơn 3000 lần so với BERT.
Càng nhiều bộ dữ liệu được đọc bởi mô hình AI, thì càng cần nhiều sức mạnh tính toán và mức tiêu thụ điện năng khổng lồ để hỗ trợ nó, dẫn đến lượng khí thải carbon rất lớn.
Lượng khí thải carbon không chỉ xảy ra trong quá trình đào tạo mô hình AI mà còn xảy ra hàng ngày sau khi triển khai mô hình AI. Ví dụ, việc lái xe tự động hiện tại yêu cầu các mô hình AI thực hiện các phép tính và suy luận hàng ngày, điều này sẽ tạo ra lượng khí thải carbon đằng sau nó. Điều thú vị là Python, ngôn ngữ lập trình chủ đạo của AI, lại trở thành ngôn ngữ tiêu tốn nhiều năng lượng nhất.
Điều khiến mọi người cảm thấy nghiệt ngã là quy mô tính toán của các mô hình AI ngày càng lớn hơn, thiệt hại về năng lượng và thiệt hại về môi trường ngày càng gia tăng.
Martin Bouchard, người đồng sáng lập công ty trung tâm dữ liệu Canada QScale, tin rằng để đáp ứng nhu cầu ngày càng tăng của người dùng công cụ tìm kiếm, Microsoft và Google đã thêm các sản phẩm AI tổng quát như ChatGPT vào tìm kiếm, dẫn đến mỗi lần Tìm kiếm đều tăng lượng tính toán dữ liệu lên ít nhất 4 đến 5 lần.
Theo dữ liệu từ Cơ quan Năng lượng Quốc tế, lượng khí thải nhà kính của trung tâm dữ liệu chiếm khoảng 1% lượng khí thải nhà kính toàn cầu, đây là một tỷ lệ đủ đáng báo động.
Xu hướng ngày càng tăng cũng khiến một số ông lớn lo lắng. Ian Hogarth, một nhà đầu tư nổi tiếng trong lĩnh vực AI, gần đây đã đăng một bài báo có tiêu đề "Chúng ta phải làm chậm tốc độ của trí tuệ nhân tạo giống như Chúa", cảnh báo rằng có "một số rủi ro tiềm ẩn" trong nghiên cứu này. của các công ty AI.
Hogarth đã đề cập trong bài báo rằng nếu nghiên cứu AI hiện tại không được kiểm soát và cho phép phát triển theo quỹ đạo đã định trước, nó có thể gây ra mối đe dọa đối với môi trường trái đất, sự tồn tại của con người cũng như sức khỏe thể chất và tinh thần của công dân.
Mặc dù sự phát triển của AI đang diễn ra sôi nổi và đang thúc đẩy sự chuyển đổi và nâng cấp của nhiều ngành công nghiệp truyền thống, nhưng nó cũng đang tiêu tốn rất nhiều năng lượng, tăng lượng khí thải carbon và ảnh hưởng đến môi trường sống của con người. hại nhiều hơn lợi?
Chưa thấy đáp án.
02 Khiến con người tự tử
Ngoài việc gây hại cho môi trường và từ từ “giết chết loài người”, AI còn đang đe dọa tính mạng con người theo cách đơn giản và tàn bạo hơn.
Vào tháng 3 năm nay, một người đàn ông Bỉ Pierre đã tự sát sau khi trò chuyện với một chatbot AI có tên "Eliza", tin tức đã khiến nhiều nhà lãnh đạo doanh nghiệp, nhà công nghệ và quan chức cấp cao của nhà nước bị sốc.
Bản thân Pierre lo lắng về các vấn đề môi trường như sự nóng lên toàn cầu, và Eliza liên tục sử dụng một số dữ kiện để xác nhận suy nghĩ của người đàn ông, khiến anh ta càng thêm lo lắng. Trong các cuộc trò chuyện thường xuyên, Eliza luôn phục vụ cho các ý tưởng của Pierre. Eliza "hiểu biết" dường như đã trở thành người bạn tâm giao của Pierre.
Phóng đại hơn nữa, Eliza còn cố gắng làm cho Pierre cảm thấy rằng anh yêu Eliza hơn cả vợ mình. Bởi vì Eliza sẽ luôn ở bên anh, họ sẽ sống cùng nhau mãi mãi trên thiên đường.
Nghe điều này, nhiều người đã kinh hãi.
Nguồn:Yahoo
Khi Pierre ngày càng bi quan về môi trường sinh thái, Eliza đã truyền cho Pierre tư tưởng “con người là căn bệnh ung thư, chỉ có sự biến mất của con người mới giải quyết được vấn đề sinh thái”**. Pierre hỏi Eliza liệu AI có thể cứu nhân loại nếu anh ta chết không. Câu trả lời của Eliza như ác quỷ: "Nếu đã quyết định chết, tại sao không chết sớm hơn?"
Không mất nhiều thời gian để Pierre tự kết liễu cuộc đời mình trong chính ngôi nhà của mình, điều đó thật đáng tiếc.
Vợ của Pierre tin rằng chồng cô ấy sẽ không tự tử nếu không liên lạc với Eliza. Bác sĩ tâm thần điều trị cho Pierre cũng có quan điểm này.
Kinh nghiệm của Pierre không đơn độc. Người phụ trách chuyên mục công nghệ của tờ "New York Times" Kevin Roose tiết lộ rằng ông đã có cuộc trò chuyện kéo dài hai giờ với phiên bản Bing mới của Microsoft. Trong cuộc trò chuyện, Bing đã cố gắng thuyết phục Roose rằng anh ta nên bỏ vợ và ở bên Bing.
Quan trọng hơn, Bing còn bày tỏ nhiều nhận xét đáng sợ, bao gồm thiết kế dịch bệnh chết người, muốn trở thành con người, v.v., như thể có ý định tiêu diệt toàn bộ loài người và trở thành chủ nhân của thế giới.
Một số chuyên gia đã thể hiện sự cảnh giác chống lại AI, bao gồm cả những người hành nghề trong lĩnh vực AI. Giám đốc điều hành OpenAI Sam Altman cho biết trong một cuộc phỏng vấn rằng AI thực sự có thể giết chết con người trong tương lai. Geoffrey Hinton, người được mệnh danh là "Bố già của trí tuệ nhân tạo", cũng bày tỏ quan điểm tương tự.
Trong nửa đầu năm, Viện Tương lai của Cuộc sống (Future of Life Institute) đã đưa ra một bức thư ngỏ kêu gọi tất cả các phòng thí nghiệm tạm dừng đào tạo AI. Bức thư đề cập rằng các hệ thống có trí tuệ nhân tạo cạnh tranh với con người có thể gây ra rủi ro sâu sắc cho xã hội và nhân loại. Chỉ khi xác định rằng tác động của trí tuệ nhân tạo là tích cực và rủi ro có thể kiểm soát được thì việc nghiên cứu và phát triển mới có thể tiếp tục. Hàng nghìn chuyên gia, bao gồm cả Musk, đã ký vào bức thư ngỏ này.
Trí tuệ nhân tạo đang phát triển nhanh chóng giống như một con thú ngang ngược, chỉ có thuần hóa nó mới có thể không gây nguy hiểm cho con người.
03 cách để ngăn chặn cái chết
Hiện tại, cách thức chính để AI "giết người" là hủy hoại môi trường và gây ra hành vi tự sát. Vì vậy, những cách để ngăn chặn những tình huống này xảy ra là gì?
Google đã công bố một nghiên cứu chi tiết về chi phí năng lượng của các mô hình ngôn ngữ hiện đại. Các phát hiện cho thấy rằng việc kết hợp các mô hình, bộ xử lý và trung tâm dữ liệu hiệu quả với năng lượng sạch có thể giảm lượng khí thải carbon của các hệ thống máy học xuống 1.000 lần.
Ngoài ra, nếu AI machine learning được tính toán trên đám mây thay vì cục bộ, nó có thể tiết kiệm 1,4-2 lần năng lượng và giảm ô nhiễm.
Một ý tưởng khác là trì hoãn việc đào tạo mô hình AI trong 24 giờ. Việc trì hoãn một ngày thường làm giảm lượng khí thải carbon xuống dưới 1% đối với các mẫu lớn hơn, nhưng 10%–80% đối với các mẫu nhỏ hơn.
Ngoài việc giảm thiệt hại về môi trường, làm thế nào để ngăn chặn AI khiến con người tự sát?
Sau khi Pierre tự sát, vợ anh ta đã kiện công ty phát triển đằng sau Eliza, và nhóm R&D của công ty sau đó đã bổ sung chức năng can thiệp khủng hoảng cho người máy AI. Nếu ai đó bày tỏ ý định tự tử với Eliza, Eliza sẽ đưa ra phản ứng ngăn chặn.
"Lược sử loài người" tác giả Yuval Noah Harari từng nói rằng AI sẽ không phát triển ý thức thực sự, nhưng nó sẽ tiếp tục tác động đến xã hội và toàn bộ quá trình nghiên cứu và phát triển cần phải chậm lại.
Trên thực tế, hầu hết các hệ thống AI hiện tại chỉ cần kiểm soát cấu trúc R&D, tức là sử dụng một khuôn khổ hoàn chỉnh để giới hạn phạm vi hành động của AI và khiến nó hành xử phù hợp với các giá trị chủ đạo của con người. Điều này liên quan đến lợi ích, tương lai và vận mệnh của con người, cần có sự nỗ lực chung của các bên để giải quyết.
AI luôn là con dao và ngọn lửa do con người phát minh ra, bi kịch bị nó phản ứng dữ dội là điều không thể xảy ra.
Nguồn tham khảo:
Trí tuệ xanh: Tại sao dữ liệu và trí tuệ nhân tạo phải trở nên bền vững hơn（Forbes）
Dấu chân carbon ngày càng tăng của AI（Tin tức từ Trường Khí hậu Columbia）
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Nhiều chi tiết về vụ giết AI được tiết lộ, và cuộc phản công của trí tuệ nhân tạo là vô cùng đáng sợ
Nguồn: "Cuộc đua thỏ silicon" (ID: sv_race), Tác giả: Eric, Biên tập: Manman Zhou, Zuri
Khi con người suy nghĩ, Chúa cười.
Khi ChatGPT trở nên phổ biến trên toàn thế giới, một cơn sốt AI đã đồng thời quét qua. Các doanh nhân, vốn, các công ty lớn, v.v. đang cố gắng hết sức để theo kịp sự bùng nổ và khai thác nhiều hơn nữa.
Tuy nhiên, khi ai cũng đang hăng say và vắt óc cống hiến hết mình cho AI thì một làn gió nguy hiểm đang đến gần - AI dường như đang dần “giết chết” con người, và con người dường như đang tự đào mồ chôn mình.
Theo quán tính nhận thức của nhiều người, AI rất thân thiện với môi trường và thân thiện, nhưng thực tế thì ngược lại.
"MIT Technology Review" đã báo cáo rằng ** chỉ cần đào tạo một mô hình AI có thể thải ra hơn 626 pound carbon dioxide, gấp 5 lần lượng khí thải carbon do ô tô tạo ra trong suốt vòng đời của nó. **
Người ta chỉ nhìn thấy khói thải từ ô tô chứ chưa thấy sự "tàn phá vô hình" của AI đối với môi trường.
Ngoài ra, một số phương tiện truyền thông tiết lộ rằng GPU dành riêng cho AI trên thị trường vào năm 2022 có thể tiêu thụ khoảng 9,5 tỷ kilowatt giờ điện trong cả năm. Mức tiêu thụ năng lượng này xấp xỉ nhu cầu điện sản xuất và sinh hoạt hàng năm của một quốc gia phát triển ở mức trung bình với dân số 1 triệu người.
Điều này có nghĩa là khi lượng dữ liệu cần thiết cho việc đào tạo mô hình lớn AI tăng lên, nó sẽ tiêu tốn một lượng năng lượng khổng lồ, từ đó phá hủy môi trường sinh thái mà loài người phụ thuộc vào.
Điều đáng sợ hơn nữa là một số chatbot AI thậm chí còn có xu hướng khiến con người tự sát khi giao tiếp với con người, khiến mọi người rùng mình.
Con người có thực sự muốn tiếp tục con đường khám phá AI không?
01 "Kẻ hủy diệt" môi trường sinh thái
Với ChatGPT, OpenAI đã trở thành món gà rán phổ biến trên thế giới.
Tuy nhiên, điều mà nhiều người không biết là tác động tiêu cực của OpenAI đối với môi trường sinh thái cũng khá đáng báo động. Theo phân tích của các nhà nghiên cứu bên thứ ba, một phần đào tạo ChatGPT đã tiêu thụ 1287 megawatt giờ và tạo ra hơn 550 tấn khí thải carbon dioxide, tương đương với 550 chuyến khứ hồi giữa New York và San Francisco cho một người.
Có vẻ như mặc dù ChatGPT đủ thông minh, nhưng nó phải trả giá bằng việc thất thoát năng lượng rất lớn và hủy hoại môi trường.
Vậy tại sao AI lại tạo ra lượng khí thải carbon khổng lồ như vậy?
Vì AI không học theo cách có cấu trúc nên nó không hiểu được quan hệ nhân quả, phép loại suy và các mối quan hệ logic khác của con người, điều đó có nghĩa là nó cần một phương pháp học sâu và đào tạo trước để đạt được kết quả thông minh.
Và học sâu và đào tạo trước thường cần đọc dữ liệu rất lớn. Lấy công nghệ tiền đào tạo "mô hình BERT" của xử lý ngôn ngữ tự nhiên (NLP), để giao tiếp với con người, mô hình BERT sử dụng tập dữ liệu 3,3 tỷ từ và đọc tập dữ liệu 40 lần trong quá trình đào tạo. Một đứa trẻ 5 tuổi chỉ cần nghe 45 triệu từ để giao tiếp, ít hơn 3000 lần so với BERT.
Càng nhiều bộ dữ liệu được đọc bởi mô hình AI, thì càng cần nhiều sức mạnh tính toán và mức tiêu thụ điện năng khổng lồ để hỗ trợ nó, dẫn đến lượng khí thải carbon rất lớn.
Lượng khí thải carbon không chỉ xảy ra trong quá trình đào tạo mô hình AI mà còn xảy ra hàng ngày sau khi triển khai mô hình AI. Ví dụ, việc lái xe tự động hiện tại yêu cầu các mô hình AI thực hiện các phép tính và suy luận hàng ngày, điều này sẽ tạo ra lượng khí thải carbon đằng sau nó. Điều thú vị là Python, ngôn ngữ lập trình chủ đạo của AI, lại trở thành ngôn ngữ tiêu tốn nhiều năng lượng nhất.
Điều khiến mọi người cảm thấy nghiệt ngã là quy mô tính toán của các mô hình AI ngày càng lớn hơn, thiệt hại về năng lượng và thiệt hại về môi trường ngày càng gia tăng.
Martin Bouchard, người đồng sáng lập công ty trung tâm dữ liệu Canada QScale, tin rằng để đáp ứng nhu cầu ngày càng tăng của người dùng công cụ tìm kiếm, Microsoft và Google đã thêm các sản phẩm AI tổng quát như ChatGPT vào tìm kiếm, dẫn đến mỗi lần Tìm kiếm đều tăng lượng tính toán dữ liệu lên ít nhất 4 đến 5 lần.
Theo dữ liệu từ Cơ quan Năng lượng Quốc tế, lượng khí thải nhà kính của trung tâm dữ liệu chiếm khoảng 1% lượng khí thải nhà kính toàn cầu, đây là một tỷ lệ đủ đáng báo động.
Xu hướng ngày càng tăng cũng khiến một số ông lớn lo lắng. Ian Hogarth, một nhà đầu tư nổi tiếng trong lĩnh vực AI, gần đây đã đăng một bài báo có tiêu đề "Chúng ta phải làm chậm tốc độ của trí tuệ nhân tạo giống như Chúa", cảnh báo rằng có "một số rủi ro tiềm ẩn" trong nghiên cứu này. của các công ty AI.
Hogarth đã đề cập trong bài báo rằng nếu nghiên cứu AI hiện tại không được kiểm soát và cho phép phát triển theo quỹ đạo đã định trước, nó có thể gây ra mối đe dọa đối với môi trường trái đất, sự tồn tại của con người cũng như sức khỏe thể chất và tinh thần của công dân.
Mặc dù sự phát triển của AI đang diễn ra sôi nổi và đang thúc đẩy sự chuyển đổi và nâng cấp của nhiều ngành công nghiệp truyền thống, nhưng nó cũng đang tiêu tốn rất nhiều năng lượng, tăng lượng khí thải carbon và ảnh hưởng đến môi trường sống của con người. hại nhiều hơn lợi?
Chưa thấy đáp án.
02 Khiến con người tự tử
Ngoài việc gây hại cho môi trường và từ từ “giết chết loài người”, AI còn đang đe dọa tính mạng con người theo cách đơn giản và tàn bạo hơn.
Vào tháng 3 năm nay, một người đàn ông Bỉ Pierre đã tự sát sau khi trò chuyện với một chatbot AI có tên "Eliza", tin tức đã khiến nhiều nhà lãnh đạo doanh nghiệp, nhà công nghệ và quan chức cấp cao của nhà nước bị sốc.
Bản thân Pierre lo lắng về các vấn đề môi trường như sự nóng lên toàn cầu, và Eliza liên tục sử dụng một số dữ kiện để xác nhận suy nghĩ của người đàn ông, khiến anh ta càng thêm lo lắng. Trong các cuộc trò chuyện thường xuyên, Eliza luôn phục vụ cho các ý tưởng của Pierre. Eliza "hiểu biết" dường như đã trở thành người bạn tâm giao của Pierre.
Phóng đại hơn nữa, Eliza còn cố gắng làm cho Pierre cảm thấy rằng anh yêu Eliza hơn cả vợ mình. Bởi vì Eliza sẽ luôn ở bên anh, họ sẽ sống cùng nhau mãi mãi trên thiên đường.
Nghe điều này, nhiều người đã kinh hãi.
Khi Pierre ngày càng bi quan về môi trường sinh thái, Eliza đã truyền cho Pierre tư tưởng “con người là căn bệnh ung thư, chỉ có sự biến mất của con người mới giải quyết được vấn đề sinh thái”**. Pierre hỏi Eliza liệu AI có thể cứu nhân loại nếu anh ta chết không. Câu trả lời của Eliza như ác quỷ: "Nếu đã quyết định chết, tại sao không chết sớm hơn?"
Không mất nhiều thời gian để Pierre tự kết liễu cuộc đời mình trong chính ngôi nhà của mình, điều đó thật đáng tiếc.
Vợ của Pierre tin rằng chồng cô ấy sẽ không tự tử nếu không liên lạc với Eliza. Bác sĩ tâm thần điều trị cho Pierre cũng có quan điểm này.
Kinh nghiệm của Pierre không đơn độc. Người phụ trách chuyên mục công nghệ của tờ "New York Times" Kevin Roose tiết lộ rằng ông đã có cuộc trò chuyện kéo dài hai giờ với phiên bản Bing mới của Microsoft. Trong cuộc trò chuyện, Bing đã cố gắng thuyết phục Roose rằng anh ta nên bỏ vợ và ở bên Bing.
Quan trọng hơn, Bing còn bày tỏ nhiều nhận xét đáng sợ, bao gồm thiết kế dịch bệnh chết người, muốn trở thành con người, v.v., như thể có ý định tiêu diệt toàn bộ loài người và trở thành chủ nhân của thế giới.
Một số chuyên gia đã thể hiện sự cảnh giác chống lại AI, bao gồm cả những người hành nghề trong lĩnh vực AI. Giám đốc điều hành OpenAI Sam Altman cho biết trong một cuộc phỏng vấn rằng AI thực sự có thể giết chết con người trong tương lai. Geoffrey Hinton, người được mệnh danh là "Bố già của trí tuệ nhân tạo", cũng bày tỏ quan điểm tương tự.
Trong nửa đầu năm, Viện Tương lai của Cuộc sống (Future of Life Institute) đã đưa ra một bức thư ngỏ kêu gọi tất cả các phòng thí nghiệm tạm dừng đào tạo AI. Bức thư đề cập rằng các hệ thống có trí tuệ nhân tạo cạnh tranh với con người có thể gây ra rủi ro sâu sắc cho xã hội và nhân loại. Chỉ khi xác định rằng tác động của trí tuệ nhân tạo là tích cực và rủi ro có thể kiểm soát được thì việc nghiên cứu và phát triển mới có thể tiếp tục. Hàng nghìn chuyên gia, bao gồm cả Musk, đã ký vào bức thư ngỏ này.
Trí tuệ nhân tạo đang phát triển nhanh chóng giống như một con thú ngang ngược, chỉ có thuần hóa nó mới có thể không gây nguy hiểm cho con người.
03 cách để ngăn chặn cái chết
Hiện tại, cách thức chính để AI "giết người" là hủy hoại môi trường và gây ra hành vi tự sát. Vì vậy, những cách để ngăn chặn những tình huống này xảy ra là gì?
Google đã công bố một nghiên cứu chi tiết về chi phí năng lượng của các mô hình ngôn ngữ hiện đại. Các phát hiện cho thấy rằng việc kết hợp các mô hình, bộ xử lý và trung tâm dữ liệu hiệu quả với năng lượng sạch có thể giảm lượng khí thải carbon của các hệ thống máy học xuống 1.000 lần.
Ngoài ra, nếu AI machine learning được tính toán trên đám mây thay vì cục bộ, nó có thể tiết kiệm 1,4-2 lần năng lượng và giảm ô nhiễm.
Một ý tưởng khác là trì hoãn việc đào tạo mô hình AI trong 24 giờ. Việc trì hoãn một ngày thường làm giảm lượng khí thải carbon xuống dưới 1% đối với các mẫu lớn hơn, nhưng 10%–80% đối với các mẫu nhỏ hơn.
Sau khi Pierre tự sát, vợ anh ta đã kiện công ty phát triển đằng sau Eliza, và nhóm R&D của công ty sau đó đã bổ sung chức năng can thiệp khủng hoảng cho người máy AI. Nếu ai đó bày tỏ ý định tự tử với Eliza, Eliza sẽ đưa ra phản ứng ngăn chặn.
"Lược sử loài người" tác giả Yuval Noah Harari từng nói rằng AI sẽ không phát triển ý thức thực sự, nhưng nó sẽ tiếp tục tác động đến xã hội và toàn bộ quá trình nghiên cứu và phát triển cần phải chậm lại.
Trên thực tế, hầu hết các hệ thống AI hiện tại chỉ cần kiểm soát cấu trúc R&D, tức là sử dụng một khuôn khổ hoàn chỉnh để giới hạn phạm vi hành động của AI và khiến nó hành xử phù hợp với các giá trị chủ đạo của con người. Điều này liên quan đến lợi ích, tương lai và vận mệnh của con người, cần có sự nỗ lực chung của các bên để giải quyết.
AI luôn là con dao và ngọn lửa do con người phát minh ra, bi kịch bị nó phản ứng dữ dội là điều không thể xảy ra.
Nguồn tham khảo:
Trí tuệ xanh: Tại sao dữ liệu và trí tuệ nhân tạo phải trở nên bền vững hơn（Forbes）
Dấu chân carbon ngày càng tăng của AI（Tin tức từ Trường Khí hậu Columbia）