Cỗ máy tự động giết người

Robot (cỗ máy tự động) đã có mặt tại chiến trường Iraq không lâu sau khi quân đội Mỹ lật đổ chế độ Saddam Hussein. Giờ đây, Mỹ đang triển khai kế hoạch thay 1/3 quân xa và vũ khí bằng robot vào năm 2015. Chiến binh robot cũng sẽ được chế tạo để lâm trận thay con người. Thậm chí, người ta còn dự định trang bị lương tâm nhân tạo để chúng từ chối thực hiện những mệnh lệnh phi đạo đức.

Chúng không biết sợ, không biết mệt, không bị bối rối khi đồng đội bị xé tan từng mảnh. Chúng cũng không ngại làm những công việc nguy hiểm, dơ dáy hay chán ngắt trong quân đội. Chúng là robot quân sự với số lượng gia tăng nhanh chóng. Chúng có thể chấm dứt độc quyền đánh giặc của con người từ mấy ngàn năm nay.

“Khoa học viễn tưởng đang tiến dần đến chiến trường”, học giả Peter Singer thuộc tổ chức Brookings đã nhận định như vậy hồi tuần qua tại hội nghị các chuyên gia về robot tổ chức tại trường đại học chiến tranh của lục quân Mỹ, bang Pennsylvania.

12.000 robot ở Iraq

Singer cũng vừa cho ra mắt cuốn Cuộc cách mạng robot và những cuộc xung đột ở thế kỷ 21. Ông tiên đoán rằng trong tương lai, robot không những đóng vai trò tác chiến ngày càng lớn mà còn vạch ra những kế hoạch tác chiến. Những con số sau đây chứng minh cho chuyện đó. Khi quân đội Mỹ tấn công Iraq năm 2003, chưa có robot trên chiến trường. Ở Afghanistan cũng vậy. Giờ đây, trên cả hai mặt trận này có khoảng 12.000 robot trên bộ ở Iraq và 7.000 máy bay không người lái (UAV), nhiều hơn gấp đôi số máy bay có người lái.

Robot trên bộ đã cứu hàng trăm sinh mạng ở Iraq bằng cách tháo gỡ mìn, thứ đã cướp đi sinh mạng của 40% lính Mỹ ở Iraq. Đội quân robot đầu tiên được triển khai ở Iraq năm 2007 dưới cái tên viết tắt SWORDS. Trên robot có gắn súng máy kiểu M249 có thể bắn xa 912 m với độ chính xác cao. Michael Zecca, giám đốc chương trình SWORDS, xác nhận hiện nay các robot này chưa nổ súng nhưng trong tương lai chắc chắn chúng sẽ làm.

Thực ra robot SWORDS đã sẵn sàng hoạt động từ năm 2004 nhưng do chưa bảo đảm về mặt an toàn cho nên chưa gửi tới chiến trường Iraq. Cụ thể, một số robot có khuynh hướng thoát khỏi tầm kiểm soát của con người. Nó có thể giết cả một đơn vị lính Mỹ nếu nổi điên, theo lời ông Zecca. Người ta phải cải tiến bộ phận điều khiển robot bằng sóng radio.

Trên không, chiếc Predator - loại UAV nổi tiếng nhất - đã giết được hàng chục lãnh tụ quân nổi dậy và cả thường dân khiến dân chúng biểu tình chống Mỹ rầm rộ ở Pakistan và Afghanistan. Những chiếc Predator được điều khiển từ căn cứ không quân Creech của Mỹ ở bang Nevada, cách sào huyệt của Taliban nằm ở biên giới Pakistan-Afghanistan 12.800 km! Người điều khiển máy bay như vậy không bị nguy hiểm gì, một điều hoàn toàn mới lạ đối với những người tham chiến.

Giảm thương vong và nguy hiểm là trọng tâm của những người nghiên cứu chế tạo chiến binh robot tự động tìm mục tiêu và tự động nổ súng. Nói cách khác, quyết định khi nào nổ súng là các phần mềm máy tính chứ không phải do người điều khiển từ xa. Chính điều này đang làm một số chuyên gia về robot lo lắng vì công nghệ đang đi trước những vấn đề về đạo lý.





Năm 2001, Quốc hội Mỹ đã bật đèn xanh thúc đẩy nghiên cứu và phát triển robot quân sự với hai mục tiêu: năm 2010, 1/3 phi vụ ném bom tầm xa của Mỹ sẽ do các UAV thực hiện và năm 2015 sẽ có 1/3 chiến dịch quân sự trên bộ do robot quân sự tiến hành. Có thể sẽ không có mục tiêu nào được hoàn thành đúng hạn nhưng thời hạn đặt ra buộc phải giải quyết cấp tốc những vấn đề thuộc về đạo đức.


Công nghệ đi trước đạo đức

Một nhóm nhà nghiên cứu của Trường Đại học Bách khoa California vừa công bố kết quả một cuộc nghiên cứu theo đơn đặt hàng của Văn phòng Nghiên cứu của Hải quân Mỹ, theo đó các vấn đề đạo đức đã không được chú ý một cách thỏa đáng. Lý do là người ta mải lo “chạy theo thị trường” và “ngộ nhận” rằng robot chỉ làm những gì đã lập trình.

Bản nghiên cứu phân tích: “Một kiểu suy nghĩ như thế thật lạc hậu bởi nó xuất phát từ cái thời máy tính còn đơn giản và các chương trình chỉ do một người viết và hiểu. Ngày nay, các chương trình có hàng triệu mã do một nhóm lập trình viên viết và không cá nhân nào có thể hiểu hết toàn bộ chương trình. Do đó, không một cá nhân nào có thể dự đoán hiệu quả của một lệnh một cách chắc chắn vì từng phần của chương trình có thể tương tác lẫn nhau”.

Điều đáng sợ nói trên đã từng xảy ra trong một cuộc tập trận ở Nam Phi năm 2007. Một khẩu cao xạ robot đã xổ ra hàng trăm vỏ đạn chung quanh mình giết chết 9 người lính và làm bị thương 14 người. Ngoài những sự cố đơn lẻ như thế còn nhiều vấn đề sâu xa hơn chưa được giải quyết. Ví dụ như làm sao phân biệt quân nổi dậy và thường dân, có thể đưa văn hóa Mỹ vào robot hay không? Khi robot làm sai gây thương vong cho thường dân ai chịu trách nhiệm? Nhà sản xuất robot, nhà thiết kế hay lập trình viên? Người chỉ huy đơn vị robot hay tổng thống Mỹ là người trực tiếp ra lệnh tấn công trong một số trường hợp? (Ông Obama từng bật đèn xanh cho một chiếc Predator nổ súng ở Pakistan).

Trong khi triển khai nhiều robot quân sự trên bộ, trên không và trên biển hơn bất cứ nước nào, Mỹ không phải là nước duy nhất sản xuất robot. Hiện có hơn 40 nước, trong đó có cả Trung Quốc, đang nghiên cứu và phát triển công nghệ robot. Điều này đặt ra một vấn đề, khi đội quân robot đông hơn quân lính, nó sẽ ảnh hưởng như thế nào đến các quyết định chính trị và ngoại giao? Đây là một câu hỏi không dễ trả lời.






Báo The Times vừa đăng báo cáo của Đại học Bách khoa California, Mỹ, về triển vọng sử dụng robot trong quân đội Mỹ. Các nhà khoa học cho rằng, những robot tác chiến cùng quân đội cần phải "sống" với những quy định nghiêm ngặt để không gây phương hại tới con người.





Báo The Times vừa đăng báo cáo của Đại học Bách khoa California, Mỹ, về triển vọng sử dụng robot trong quân đội Mỹ. Các nhà khoa học cho rằng, những robot tác chiến cùng quân đội cần phải "sống" với những quy định nghiêm ngặt để không gây phương hại tới con người.



3 điều luật từ văn học

Đây là lần đầu tiên các nhà khoa học nhìn nhận nghiêm túc về robot hủy diệt và coi nó như "một người lính". Thực ra, ý tưởng xây dựng bộ luật dành cho robot không phải là mới. Các nhà văn giả tưởng từng đề cập đến điều này trong tác phẩm từ đầu thế kỷ 20.

Trong đó, cuốn Múa vòng tròn của nhà văn giả tưởng Mỹ - Isaac Asimov, ấn hành vào năm 1942 đã đưa ra 3 điều luật làm cơ sở cho các nghiên cứu sau này trong lĩnh vực nghiên cứu kỹ thuật robot: 1) Robot không thể điều khiển con người hoặc hành động làm hại con người, 2) Robot cần thực hiện tất cả các mệnh lệnh của con người, trừ việc mệnh lệnh đó chống lại điều luật thứ nhất, 3) Robot cần phải đảm bảo sự an toàn của mình mà không mâu thuẫn với điều luật thứ nhất và thứ hai.

Những robot quân sự hiện nay không phù hợp với 3 điều luật nêu trên. Những robot được chế tạo để chống lại đối phương hay tiêu diệt khủng bố về mặt nào đó đều gây phương hại cho con người. Nhưng vấn đề đặt ra là: Nếu như kỹ thuật ngày càng hoàn thiện, robot có khả năng "tư duy" và có thể tự ra quyết định mà không cần mệnh lệnh từ con người, thì hành động của nó khó mà lường trước được.

Những người viết báo cáo của Đại học Bách khoa California cho rằng, việc robot chỉ có thể thực hiện theo chương trình mà con người cài đặt đã là vấn đề cũ. Các phần mềm của robot hiện tại do nhiều nhà khoa học thuộc nhiều lĩnh vực kiến tạo nên. Và không phải ai cũng nắm hết được các đặc điểm của mỗi lĩnh vực. Vậy nên khi cài đặt chương trình, rất có thể một vài yếu tố tương tác để tạo nên những kết quả bất ngờ trên thực tế.

Chẳng hạn, một robot được ứng dụng để tiêu diệt đối phương, nhưng do lỗi hoặc do sự kết hợp của vài phần mềm trong đó mà nó không phân biệt đâu là địch, đâu là ta và nó sẽ tiêu diệt tất cả các thực thể sống. Chờ đợi sự can thiệp của con người lúc đó thì đã quá muộn.

Trong báo cáo của mình các nhà khoa học cũng đặt ra một số vấn đề mà chưa có lời giải đáp. Làm thế nào bảo vệ robot quân sự trước virus hay tin tặc? Ai sẽ là người chịu trách nhiệm nếu robot bỗng nhiên dở chứng, tàn sát thường dân? Đó sẽ là lỗi của người lập chương trình hay viên chỉ huy ra lệnh bắt đầu chiến dịch? Một câu hỏi nữa: Robot loại này có cần chức năng tự hủy diệt mình?
Kết luận cuối cùng mà những người viết báo cáo đưa ra: Nếu không có luật hoặc thậm chí quy định về các phần mềm thì rất nguy hiểm khi chế tạo các robot hủy diệt tự hành.

Những cỗ máy giết người

Khó có thể nói quá trình thiết kế robot hủy diệt của các nhà khoa học Mỹ đang đến đâu, bởi đây là bí mật quốc gia. Nhưng nhiều khả năng loại robot này sắp trở thành hiện thực.

Vào năm 2007, tạp chí Spiegel của Đức đưa tin, Mỹ đã thử nghiệm nhiều robot quân sự tại Iraq. Chúng có khả năng do thám hay rải mìn. Tuy nhiên họ không thử robot tiêu diệt binh sĩ của đối phương.

Các nhà chuyên môn lưu ý, Swords - do hãng Waltham, Mỹ chế tạo - là robot giết người đầu tiên trong lịch sử. Bề ngoài nó giống một chiếc xe đồ chơi hơn là robot. Tuy nhiên Swords vẫn do con người điều khiển từ xa, còn tự hoạt động thì phải một thời gian nữa. Swords được trang bị súng liên thanh M249, có thể hoạt động trong mọi thời tiết, ngày cũng như đêm, vượt qua những vật cản phức tạp trên mọi địa hình để tiêu diệt binh sĩ đối phương.

Một loại robot khác - Gladiator, cũng do Mỹ sản xuất được giới thiệu từ năm 2005 và được các chuyên gia quân sự Mỹ quảng bá là sẽ tham gia vào các chiến dịch trong tương lai. Đây cũng là loại robot bán tự động, có nhiệm vụ thám sát, cảnh báo các mối nguy từ đối phương. Và hơn thế nó còn được trang bị súng liên thanh M240.

Vào tháng 12.2007, CNN còn giới thiệu robot hủy diệt do kỹ sư trẻ Amdam Gettings, 25 tuổi chế tạo. Robot này cao nửa mét, điều khiển từ xa, di chuyển với tốc độ 15 km/giờ và có khả năng bắn giết đối thủ không thua các loại robot hiện hành, nhưng giá thành chỉ 30 - 50 ngàn USD thay vì hàng trăm ngàn USD như Gladiator.

Đến đầu tháng 6.2008, hãng Foster-Miller của Mỹ thông báo sẽ cung cấp cho Bộ Quốc phòng Mỹ robot MAARS (Modular Advanced Armed Robotic System). Khi đó phía Mỹ tuyên bố đến năm 2014, bộ binh nước này sẽ được trang bị 1.700 robot MAARS để đưa vào hoạt động. MAARS có súng liên thanh M240, súng phóng lựu với nhiều tính năng ưu việt để "đè bẹp" đối phương.

Tựu trung, vấn đề mà báo cáo nêu trên là hết sức thực tiễn. Bởi với tốc độ phát triển như vũ bão của khoa học công nghệ như hiện nay, thì trong tương lai gần loại robot hủy diệt sẽ xuất hiện. Nếu không có luật (cho dù là sơ khởi) thì nhiều khả năng sẽ dẫn đến những hậu quả khôn lường.