• Tiếng Việt
  • ភាសាខ្មែរ
Chủ Nhật, ngày 22/06/2025
Báo Trà Vinh
Báo Trà Vinh
Báo Trà Vinh
  • Thời sự
  • Chính trị
  • Kinh tế
  • Xã hội
  • Văn hóa - Thể thao
  • An ninh - Quốc phòng
  • Pháp luật - Bạn đọc
  • Quốc tế
  • Thông Tin - Dịch Vụ - Việc Làm

Trang chủ Khoa học và Công nghệ

09 nguyên tắc nghiên cứu phát triển hệ thống AI có trách nhiệm

17/06/2024 05:21

Bộ Khoa học và Công nghệ (KH-CN) vừa ban hành tài liệu hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm nhằm hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ các hệ thống AI, bảo đảm sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI...

 

 Ảnh minh họa.

 

Theo đó, cơ quan, tổ chức khoa học và công nghệ, tổ chức, doanh nghiệp, cá nhân có hoạt động nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống AI được khuyến khích áp dụng các nội dung trong tài liệu hướng dẫn.

9 nguyên tắc nghiên cứu, phát triển hệ thống AI có trách nhiệm được đề ra gồm: Tinh thần hợp tác, thúc đẩy đổi mới sáng tạo; tính minh bạch; khả năng kiểm soát; an toàn; bảo mật; quyền riêng tư; tôn trọng quyền và phẩm giá con người; hỗ trợ người dùng; trách nhiệm giải trình.

Với mỗi nguyên tắc đều có hướng dẫn thực hiện. Đơn cử như đối với tính minh bạch, nhà phát triển cần chú ý đến việc kiểm soát đầu vào/đầu ra của hệ thống AI và khả năng giải thích các phân tích có liên quan. Theo đó, các hệ thống AI tuân theo nguyên tắc này thường là các hệ thống có thể ảnh hưởng đến tính mạng, thân thể, quyền riêng tư hoặc tài sản của người dùng hoặc bên thứ ba liên quan.

Khi đó, các nhà phát triển cần chú ý đến khả năng xác định rõ các đầu vào và đầu ra của hệ thống AI cũng như khả năng giải thích liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng để đảm bảo có sự tin tưởng của xã hội, bao gồm cả người dùng.

Hay đối với nguyên tắc tôn trọng quyền và phẩm giá con người, khi phát triển các hệ thống AI có liên quan tới con người, các nhà phát triển phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người của các cá nhân liên quan.

Trong phạm vi có thể, tùy theo đặc điểm của công nghệ được áp dụng, các nhà phát triển cần thực hiện các biện pháp để đảm bảo không gây ra sự phân biệt đối xử, không công bằng do thiên vị (định kiến) trong dữ liệu khi huấn luyện hệ thống AI.

Các nhà phát triển cần thực hiện các biện pháp phòng ngừa để đảm bảo rằng hệ thống AI không vi phạm các giá trị của con người, đạo đức xã hội theo các nguyên tắc cơ bản của Việt Nam (ví dụ, các giá trị bao gồm yêu nước, đoàn kết, tự cường, nghĩa tình, trung thực, trách nhiệm, kỷ cương, sáng tạo…).

Được biết, kết quả đánh giá và công bố trong báo cáo "Chỉ số sẵn sàng AI của Chính phủ" do Oxford Insight thực hiện, năm 2023, Việt Nam vươn lên đứng thứ 5 trong ASEAN, vượt qua Philippines (sau Singapore, Malaysia, Thái Lan, Indonesia). Năm 2023, Việt Nam có điểm trung bình đạt 54,48 điểm (năm 2022 là 53,96 và 2021 là 51,82 điểm) vượt ngưỡng trung bình thế giới, đứng thứ 59 trong số hơn 193 quốc gia và vùng lãnh thổ (năm 2022 đứng thứ 55 trong tổng số 181 quốc gia và vùng lãnh thổ).

Theo Bộ KH-CN, trong bối cảnh hiện nay, việc nghiên cứu, có biện pháp giảm thiểu các rủi ro trong quá trình phát triển, sử dụng AI và cân đối các yếu tố kinh tế, đạo đức và pháp lý liên quan là rất cần thiết. Vì vậy, các cơ quan chuyên môn cần nghiên cứu, xây dựng các tiêu chuẩn, hướng dẫn để định hướng kể cả đó là các quy định mềm và không có tính ràng buộc.

Bên cạnh đó, việc chia sẻ, trao đổi thông tin về các quy trình, các biện pháp thực hành tốt giữa các bên liên quan (như nhà phát triển, nhà cung cấp dịch vụ, người dùng) cũng sẽ thúc đẩy sự đồng thuận để gia tăng lợi ích từ các hệ thống AI và kiểm soát được các rủi ro.

Bộ KH-CN đã chủ động nghiên cứu kinh nghiệm các nước, khuyến nghị của các tổ chức như UNESCO, UN, ASEAN, G7, G20... để xây dựng các khuyến nghị, công cụ, quy định về đạo đức trong AI, phát triển các sản phẩm AI (từ nghiên cứu, thiết kế, phát triển, triển khai sản phẩm AI) có trách nhiệm phù hợp với thực tiễn và quy định hiện hành của Việt Nam.

Thứ trưởng Bộ KH-CN Bùi Thế Duy cũng cho biết việc xây dựng hướng dẫn nguyên tắc nghiên cứu, phát triển AI có trách nhiệm tại Việt Nam cần bám sát các mục tiêu hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ cuộc sống cũng như từ các hệ thống AI. Đồng thời đảm bảo sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI, cụ thể là: Phát huy lợi ích của AI thông qua các hoạt động nghiên cứu, phát triển và đổi mới sáng tạo; và giảm thiểu nguy cơ xâm phạm quyền hoặc lợi ích hợp pháp của các tổ chức, cá nhân từ các hệ thống AI.

Bảo đảm các hoạt động nghiên cứu, phát triển các hệ thống AI dựa trên các công nghệ hoặc kỹ thuật cụ thể nhưng vẫn đảm bảo tính trung lập về công nghệ và các nhà phát triển cũng không bị ảnh hưởng bởi sự phát triển quá nhanh của các công nghệ liên quan đến AI trong tương lai.

Bộ KH-CN cũng cho biết, các nguyên tắc, hướng dẫn sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn.

Theo dangcongsan.vn

https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html
  • phát triển hệ thống AI có trách nhiệm
  • Chỉ số sẵn sàng AI của chính phủ
  • giảm thiểu các rủi ro trong quá trình phát triển, sử dụng AI
TIN CÙNG MỤC

Bắt buộc công bố đầy đủ thông tin hàng hóa bán trên sàn điện tử

Ra mắt Liên minh AI Âu Lạc sẽ hiện thực hóa chủ quyền AI Việt Nam

Liên minh AI Âu Lạc ra đời với khát vọng xây dựng mô hình trí tuệ nhân tạo thuần Việt, bằng tiếng Việt, vì một Việt Nam làm chủ công nghệ và khẳng định chủ quyền số trong kỷ nguyên mới.

  • Bắt buộc công khai thông tin sản phẩm qua mã vạch để truy xuất nguồn gốc
  • Chuyển đổi số hướng đến xây dựng báo chí chuyên nghiệp, hiện đại
  • Bộ Công Thương hướng dẫn tiểu thương chuyển đổi số
  • Đẩy mạnh truyền thông về đột phá phát triển khoa học, công nghệ, chuyển đổi số
Tin Nổi Bật

Hoàn thành hỗ trợ nhà ở cho gia đình người có công với cách mạng trước ngày 27/7

THƯ CẢM ƠN!

Xã Hòa Minh nâng cao ý thức bảo vệ môi trường

Hội thảo lần 2 quyển sách “Chân dung Bí thư Tỉnh ủy Trà Vinh qua các thời kỳ”

Tiếng nói của Đảng trong lòng Phum sóc

Nghề báo tôi yêu!

Báo Trà Vinh - 65 năm phát huy truyền thống ANH DŨNG

Chuyển đổi số hướng đến xây dựng báo chí chuyên nghiệp, hiện đại

  • Thời sự
  • Chính trị
  • Kinh tế
  • Xã hội
  • Văn hóa - Thể thao
  • An ninh - Quốc phòng
  • Pháp luật - Bạn đọc
  • Quốc tế
  • Thông Tin - Dịch Vụ - Việc Làm
  • Cơ quan chủ quản: TỈNH ỦY TRÀ VINH
  • Tổng Biên tập: TRẦN VĂN PHƯƠNG,
  • Phó Tổng biên tập: SƠN HÙNG
  • Tòa soạn: Số 17 Lê Lợi, Phường 1, thành phố Trà Vinh, tỉnh Trà Vinh.
  • Điện thoại: 02943.852549;  Fax: 02943.852638
  • Email: phongbandocbtv@gmail.com
  • © 2020 Bản quyền thuộc về Báo Trà Vinh
  • Liên hệ quảng cáo: 02943.852549;  Fax: 02943.852638
  • Giấy phép số 454/GP-BTTTT, do Bộ Thông tin và Truyền thông, cấp ngày 20/7/2021.
  • Chỉ được sao chép, phát hành lại thông tin từ website này khi có sự đồng ý bằng văn bản của Báo.