Thứ Hai, 18/01/2021 Cấu trúc Cổng Đăng nhập
Tin hoạt động SởTin trong tỉnhTin trong nướcTin thế giớiTin tổng hợpSở hữu trí tuệHoạt động KH&CN cơ sởPhổ biến pháp luậtPhòng, chống dịch bệnh COVID-19
TIN TỨC - SỰ KIỆN: Tin thế giới
Cập nhật: Thứ Tư, ngày 25/11/2020

Công cụ mã nguồn mở kiểm tra rò rỉ dữ liệu từ các hệ thống AI
Nhiều ứng dụng trên điện thoại thông minh, chẳng hạn như chương trình chuyển lời nói thành văn bản và trợ lý Google, vận hành nhờ nền tảng trí tuệ nhân tạo (AI).
Giáo sư Reza Shokri và nhóm của ông đã mất ba năm để phát triển công cụ đo quyền riêng tư của Máy học.
Các công ty cũng dùng AI để cải thiện chiến lược tiếp thị, giới thiệu sản phẩm và dịch vụ cho người dùng, hoặc thậm chí bệnh viện cũng sử dụng AI để đưa ra dự đoán về những rủi ro sức khỏe có thể xảy ra cho bệnh nhân.
 
 
Để các hệ thống AI có thể cung cấp thông tin chi tiết như vậy, chúng ta phải đào tạo AI bằng các dữ liệu liên quan như thói quen mua hàng hoặc hồ sơ y tế của một người, những dữ liệu này có thể chứa thông tin nhạy cảm về một cá nhân. Khi ‘khóa đào tạo’ mô hình AI kết thúc, nó không được lưu giữ lại bất kỳ dữ liệu đào tạo ban đầu nào để đảm bảo ngay cả khi tin tặc xâm nhập cũng không thể thu thập được bất kỳ thông tin nhạy cảm nào.

Trong những năm gần đây, các nhà nghiên cứu bảo mật và quyền riêng tư đã chỉ ra tin tặc có thể tấn công suy luận mô hình AI, qua đó trích xuất thông tin nhạy cảm trong dữ liệu đào tạo. Tin tặc liên tục yêu cầu dịch vụ AI tạo thông tin, sau đó phân tích thông để tìm ra một mẫu hình. Khi đã xác định được mẫu hình, tin tặc có thể suy luận ra loại dữ liệu cụ thể đã sử dụng để đào tạo chương trình AI. Sử dụng các cuộc tấn công kiểu này, tin tặc thậm chí có thể xây dựng lại tập dữ liệu ban đầu mà rất có thể đó là tập dữ liệu dùng để đào tạo AI.

Các cuộc tấn công như vậy đang trở thành mối lo ngại của nhiều tổ chức trên toàn cầu. Ví dụ, vào năm 2009, đã có các cuộc tấn công tương tự nhằm vào Viện Y tế Quốc gia (NIH) ở Hoa Kỳ và NIH đã phải thay đổi chính sách truy cập với dữ liệu y tế nhạy cảm. “Các cuộc tấn công suy luận rất khó phát hiện vì hệ thống chỉ coi hacker là người dùng thông thường đang yêu cầu cung cấp thông tin. Như vậy, các công ty hiện không có cách nào để biết liệu các dịch vụ AI của họ có gặp rủi ro hay không vì hiện tại cũng không có công cụ hoàn thiện nào để chống lại kiểu tấn công này”, giáo sư Reza Shokri từ Đại học Quốc gia Singapore (NUS Computing) giải thích.

Để giải quyết vấn đề này, giáo sư Asst Shokri và nhóm của ông đã phát triển một công cụ mã nguồn mở có thể giúp các công ty xác định xem các dịch vụ AI của họ có dễ bị tấn công suy luận như vậy hay không. Công cụ đo quyền riêng tư của Máy học (ML Privacy Meter) giả lập tấn công suy luận, cuộc tấn công nhằm xác định xem một bản ghi dữ liệu cụ thể có phải là một phần của dữ liệu đào tạo mô hình hay không. Bằng cách mô phỏng các cuộc tấn công như vậy, công cụ có thể định lượng mức độ rò rỉ dữ liệu đào tạo của một mô hình AI, qua đó cho thấy nguy cơ xảy ra các cuộc tấn công khác nhau mà ở đó hacker sẽ cố gắng xây dựng lại toàn bộ hoặc một phần tập dữ liệu đào tạo. Cuối cùng, công cụ này sẽ chỉ ra các khu vực dễ bị tấn công trong bộ dữ liệu dùng để đào tạo.

Quá trình này có thể giúp các tổ chức xác định những điểm yếu trong tập dữ liệu của họ, từ đó gợi ý những kỹ thuật để hạn chế các cuộc tấn công suy luận.

“Khi xây dựng các hệ thống AI sử dụng dữ liệu nhạy cảm, các tổ chức nên đảm bảo rằng họ đã bảo vệ đầy đủ dữ liệu được xử lý trong các hệ thống đó. Công cụ của chúng tôi có thể giúp các tổ chức thực hiện phân tích hoặc kiểm tra rủi ro quyền riêng tư nội bộ trước khi triển khai hệ thống AI”, Shokri nói. “Ngoài ra, các quy định như ‘Quy định chung về bảo vệ dữ liệu’ cũng yêu cầu phải đánh giá rủi ro về quyền riêng tư đối với dữ liệu khi sử dụng máy học. Công cụ của chúng tôi có thể hỗ trợ các công ty tuân thủ quy định này”.
https://khoahocphattrien.vn/
Tin, bài cùng lĩnh vực
Tìm ra cách biến bột than thô thành than chì nano giá trị cao qua lò vi sóng (12/01/2021)
Công nghệ nhận diện khuôn mặt người đeo khẩu trang (12/01/2021)
Nghiên cứu mới giúp ngăn chặn bệnh Alzheimer (04/01/2021)
Ứng dụng công nghệ trí tuệ nhân tạo trong nghiên cứu Mặt Trăng (28/12/2020)
Công cụ xác định vị trí trồng cây sau cháy rừng (25/12/2020)
Tiêu chuẩn ISO 56005: Bảo hộ sở hữu trí tuệ cho mọi tổ chức (21/12/2020)
Ứng dụng phân tích DNA đầu tiên trên điện thoại (21/12/2020)
Anh phát hiện biến thể mới của virus Corona (17/12/2020)
Xác định được cách thức virus SARS-CoV-2 xâm nhập và phá tế bào phổi (17/12/2020)
Quốc gia đầu tiên cho phép bán thịt ‘nhân tạo’ (09/12/2020)
Máy đo phát hiện mô gan bị sẹo hoặc nhiễm mỡ (07/12/2020)
AI của Deepmind "thay đổi cuộc chơi" giải cấu trúc protein (07/12/2020)
Chế tạo máy chụp cộng hưởng từ não có thể di động với giá thành rẻ (26/11/2020)
Điều trị ung thư nhờ phương pháp chỉnh sửa gene (25/11/2020)
Điện thoại thông minh kháng khuẩn đầu tiên trên thế giới (25/11/2020)
Kiểm tra thính giác có thể phát hiện chứng tự kỷ ở trẻ sơ sinh (18/11/2020)
Các nhà nghiên cứu Úc phát triển công nghệ laser có khả năng kiểm soát nơi sét đánh (18/11/2020)
Bút phân hủy sinh học đầu tiên trên thế giới (18/11/2020)
Sạc điện thoại di động bằng chuyển động nhẹ của cơ thể (18/11/2020)
Thử nghiệm tàu siêu tốc chở khách đầu tiên (11/11/2020)
Bước tiến lớn trong công nghệ pin lithium-lưu huỳnh (09/11/2020)
Australia xây trang trại điện Mặt trời lớn nhất thế giới (07/11/2020)
Cảm biến đeo trên mặt giúp bệnh nhân ALS giao tiếp (07/11/2020)
Những điểm nhấn quan trọng trong Chương trình hỗ trợ doanh nghiệp nâng cao năng suất chất lượng (02/11/2020)
Phát hiện loài tắc kè hoa sau hơn một thế kỷ vắng bóng (02/11/2020)
AI phát hiện người nhiễm Covid-19 không có triệu chứng qua tiếng ho (02/11/2020)
Mục tiêu năng lượng tái tạo có thể làm suy yếu mục tiêu phát triển bền vững (02/11/2020)
Đột phá phân tử giúp rễ phát triển (02/11/2020)
IoT: động lực mới cho nuôi trồng thủy sản (02/11/2020)
Vật liệu mới tách CO2 khỏi khí thải công nghiệp, khí thiên nhiên hoặc khí sinh học (29/10/2020)
Sử dụng giác hút lấy cảm hứng từ bạch tuộc để chuyển các mô ghép mỏng và cảm biến sinh học cho người bệnh (29/10/2020)
Đan Mạch xây đường hầm vượt biển dài nhất thế giới (29/10/2020)
NASA tìm thấy nước trên mặt trăng (29/10/2020)
AI giám sát công trường xây dựng (29/10/2020)
Mỹ phát triển loại động cơ tên lửa mới sử dụng năng lượng hạt nhân (29/10/2020)
Nhu cầu và xu hướng ứng dụng công nghệ in 3D trên thế giới (29/10/2020)
Bước đột phá về bệnh lao: Công cụ dự đoán nguy cơ phát triển lao hoạt động (29/10/2020)
Dò theo virus SARS-CoV-2 với trình tự hệ gene (23/10/2020)
Tìm ra vật liệu siêu dẫn ở nhiệt độ phòng (21/10/2020)
Mỹ thử nghiệm triển khai robot cứu hỏa (21/10/2020)
Báo động về lượng phát thải khí nitơ (21/10/2020)
Nga phê chuẩn vaccine COVID-19 thứ hai (19/10/2020)
Tái tạo cách thức lây nhiễm của virus HIV trong ống nghiệm (19/10/2020)
Công nghệ giao diện não-máy tính giúp bệnh nhân bị liệt nói được (16/10/2020)
Thụ phấn bằng tay, không phải dùng hóa chất nông nghiệp làm tăng năng suất ca cao và thu nhập của người trồng (15/10/2020)
Triển khai cảm biến siêu nhỏ bằng drone và côn trùng (15/10/2020)
Sáng kiến mới cho phép dễ dàng xem và tìm kiếm các bản tóm tắt nghiên cứu (15/10/2020)
Triển vọng xử lý rác thải nhựa bằng loại enzyme mới (13/10/2020)
Nobel Kinh tế 2020: Đi tìm thể thức đấu giá hoàn hảo (13/10/2020)
Buồng điều trị di động (13/10/2020)
Tải ứng dụng Khai báo y tế toàn dân NCOV
Ứng dụng trên IOS
Ứng dụng trên Android
Quyết định số 11/QĐ-SKHCN về việc Quyết định về việc ban hành Chương trình công tác trọng tâm năm 2021 của Sở Khoa học và Công nghệ Quảng Trị

Nghị định số 154/2018/NĐ-CP về việc Nghị định Sửa đổi, bổ sung, bãi bỏ một số quy định về điều kiện đầu tư, kinh doanh trong lĩnh vực quản lý nhà nước của Bộ Khoa học và Công nghệ và một số quy định về kiểm tra chuyên ngành.

Báo cáo số 02/BC-SKHCN về việc Báo cáo tình hình thực hiện Nghị quyết số 52-NQ/TW ngày 27/9/2019 của Bộ Chính trị về một số chủ trương, chính sách chủ động tham gia cuộc CMCN 4.0

Quyết định số 06/QĐ-SKHCN về việc Quyết định về việc phê duyệt kế hoạch lựa chọn nhà thầu gói thầu mua hóa chất, nguyên vật liệu thuộc đề tài: Nghiên cứu ứng dụng công nghệ sinh học phục vụ bảo tồn và phát triển cây Lan Giả hạc trên địa bàn tỉnh Quảng Trị

Quyết định số 10/QĐ-SKHCN về việc Quyết định về việc thành lập Hội đồng tư vấn đánh giá, nghiệm thu kết quả đề tài: Nghiên cứu xây dựng mô hình nhà kính ứng dụng công nghệ 4.0 phục vụ nghiên cứu, thử nghiệm và sản xuất một số loại cây trồng có giá trị phù hợp với điều kiện tỉnh Quảng Trị

Quyết định số 07/QĐ-SKHCN về việc Quyết định về việc thành lập Hội đồng tư vấn nghiệm thu, đánh giá kết quả thực hiện nhiệm vụ thường xuyên theo chức năng năm 2020 của Trung tâm Kỹ thuật Tiêu chuẩn Đo lường Chất lượng

Quyết định số 08/QĐ-SKHCN về việc Quyết định về việc thành lập Hội đồng tư vấn nghiệm thu, đánh giá kết quả thực hiện nhiệm vụ TXTCN năm 2020 của Trạm nghiên cứu và Phát triển Nấm

Báo cáo số 03/BC-SKHCN về việc Báo cáo kết quả thực hiện Cam kết trách nhiệm của tập thể lãnh đạo và Giám đốc Sở KH CN với BTV tỉnh ủy năm 2020

Quyết định số 3945/QĐ-UBND về việc Quyết định v/v phê duyệt đề tài: "Khảo nghiệm một số giống dừa xiêm có triển vọng để đánh giá khả năng thích nghi và hiệu quả kinh tế, nhằm góp phần phục vụ công tác chuyển đổi cơ cấu cây trồng tại tỉnh Quảng Trị"

Quyết định số 373/QĐ-SKHCN về việc Quyết định về việc thành lập Hội đồng kiểm tra định kỳ, đánh giá, nghiệm thu khối lượng thực hiện năm 2020 của đề tài cấp cơ sở: Xây dựng mô hình sản xuất giống dịch thể và nuôi trồng nấm Mối đen thương phẩm tại tỉnh Quảng Trị

Thông báo về việc kết quả xét chọn tổ chức, cá nhân chủ trì đề tài: Nghiên cứu ứng dụng công nghệ sinh học phục vụ bảo tồn và phát triển cây Lan Giả Hạc

Thông báo về việc kết quả xét chọn tổ chức, cá nhân chủ trì đề tài: Nghiên cứu nhân giống và trồng thử nghiệm cây Vanilla trong nhà lưới theo hướng VietGap tại thôn Quyết Tâm, xã Tân Hợp, huyện Hướng Hóa

Thông báo về việc kết quả xét chọn tổ chức, cá nhân chủ trì đề tài: Nghiên cứu nhân giống và trồng thử nghiệm cây Lan Kim Tuyến tại vùng Bắc Hướng Hóa

Thông báo về việc kết quả xét chọn tổ chức, cá nhân chủ trì đề tài: Nghiên cứu xây dựng CSDL số về di tích lịch sử cấp Quốc gia đặc biệt Thành cổ Quảng Trị và những điểm lưu niệm sự kiện 81 ngày đêm chiến dịch năm 1972, góp phần hỗ trợ phát triển du lịch Quảng Trị

Thông báo về việc kết quả xét chọn tổ chức, cá nhân chủ trì đề tài: "Nghiên cứu xây dựng giải pháp nâng cao hiệu quả đấu tranh phòng, chống tội phạm sử dụng công nghệ cao trên địa bàn tỉnh Quảng Trị"

Quy chế tiếp công dân của Sở Khoa học và Công nghệ tỉnh Quảng Trị
Nội quy tiếp công dân
Thống kê lượt truy cập
Số người online 943
Hôm nay 911
Hôm qua 4.150
Tất cả 2.990.334

© CỔNG THÔNG TIN ĐIỆN TỬ KHOA HỌC VÀ CÔNG NGHỆ QUẢNG TRỊ
Cơ quan chủ quản: Sở Khoa học và Công nghệ Quảng Trị
Chịu trách nhiệm: Trần Ngọc Lân, Giám đốc Sở Khoa học và Công nghệ
 204 Hùng Vương, Đông Hà; ĐT: 0233.3550 382. Hệ thống chạy tốt nhất trên trình duyệt Cốc cốc.

Thiết kế và xây dựng: Trung tâm Nghiên cứu, Ứng dụng và Thông tin KH&CN
Ghi rõ nguồn Dostquangtri khi sử dụng thông tin từ website này