SHOULD AI BE USED TO CATCH SHOPLIFTERS?

CÓ NÊN SỬ DỤNG AI ĐỂ PHÁT HIỆN NGƯỜI ĂN CẮP TRONG CỬA HÀNG 

New artificial intelligence software is being used in Japan to monitor the body language of shoppers and look for signs that they are planning to shoplift.

The software, which is made by a Tokyo startup called Vaak, differs from similar products that work by matching faces to criminal records. Instead, VaakEye uses behavior to predict criminal action.

  Tại Nhật Bản, một phần mềm trí tuệ nhân tạo mới đang được sử dụng nhằm theo dõi ngôn ngữ cơ thể của người mua hàng và tìm kiếm các dấu hiệu cho thấy họ đang có kế hoạch trộm đồ.

Được tạo ra bởi Vaak - một công ty khởi nghiệp ở Tokyo, phần mềm này không hoạt động theo cách đối chiếu khuôn mặt với hồ sơ tội phạm như các sản phẩm tương tự khác mà thay vào đó là dựa vào hành vi để dự đoán hành động phạm tội.

Company founder Ryo Tanaka said his team fed the algorithm 100,000 hours worth of surveillance data to train it to monitor everything from the facial expressions of shoppers to their movements and clothing. Since VaakEye launched last month, it has been rolled out in 50 stores across Japan.

Vaak claims that shoplifting losses dropped by 77% during a test period in local convenience stores. That could help reduce global retail costs from shoplifting, which hit $34 billion in 2017 according to the Global Shrink Index.

Ông Ryo Tanaka - người sáng lập công ty cho biết nhóm của ông đã cung cấp cho thuật toán 100.000 giờ dữ liệu giám sát nhằm huấn luyện nó cách giám sát mọi thứ, từ biểu cảm khuôn mặt cho tới cách di chuyển và trang phục của người mua hàng. Kể từ khi ra mắt vào tháng trước,  VaakEye đã được sử dụng tại 50 cửa hàng trên khắp Nhật Bản.

Vaak tuyên bố rằng trong thời gian được sử dụng thử nghiệm tại các cửa hàng tiện lợi địa phương, phần mềm của họ đã giúp giảm tới 77% thất thoát do mất cắp. Điều đó có thể giúp giảm thiệt hại do tình trạng trộm cắp cho ngành bán lẻ toàn cầu (con số này vào năm 2017 đã cán mốc 3,4 tỷ đô la theo Global Shrink Index).

Using AI to catch thieves raises all kinds of ethical questions.

"While the incentive is to prevent theft, is it legal or even moral to prevent someone from entering a store based on this software?" said Euromonitor retail analyst Michelle Grant.

This should not be up to the software developer, says Tanaka. "What we provide is the information of the suspicious, detected image. We don't decide who is criminal, the shop decides who's criminal," he said.

Sử dụng AI để bắt trộm làm dấy nhiều câu hỏi về vấn đề đạo đức.

Ông Michelle Grant - nhà phân tích bán lẻ thuộc tập đoàn Euromonitor đặt ra câu hỏi: "Mặc dù mục đích là để ngăn chặn hành vi trộm cắp, nhưng việc ngăn ai đó vào cửa hàng dựa trên phần mềm này có hợp pháp hay thậm chí là hợp đạo đức hay không?" 

Trả lời câu hỏi này, ông Tanaka cho biết việc ngăn ai đó vào cửa hàng không phải điều mà nhà phát triển phần mềm quyết định. Ông nói: "Thứ mà chúng tôi cung cấp là thông tin về những hình ảnh khả nghi được phát hiện. Chúng tôi không quyết định ai là tội phạm, cửa hàng mới là bên làm điều đó."

Yet that is precisely what concerns the human rights charity Liberty, which is campaigning to ban facial recognition technology in the United Kingdom.

"A retail environment — a private body — is starting to perform something akin to a police function," said Hannah Couchman, Liberty's advocacy and policy officer.

Liberty is also worried about the potential of AI to fuel discrimination. A 2018 study by MIT and Stanford University found that various commercial facial-analysis programs demonstrated skin-type and gender biases.

Liberty cũng lo lắng về khả năng AI có thể làm gia tăng tình trạng  phân biệt đối xử. Một nghiên cứu năm 2018 của Viện nghiên cứu Massachusetts (MIT) và Đại học Stanford cho thấy rằng các chương trình thương mại phân tích khuôn mặt đều có sự phân biệt về màu da và giới tính.

Tuy nhiên, đó cũng chính là vấn đề mà quỹ từ thiện nhân quyền Liberty lo ngại. Quỹ này đang vận động để cấm công nghệ nhận diện khuôn mặt ở Anh.

Bà Hanah Couchman, nhân viên vận động chính sách của Liberty nói: “Cửa hàng bán lẻ - vốn là một đơn vị tư nhân - giờ đây lại đang bắt đầu thực hiện chức năng như cảnh sát.”

Tanaka explains that since the Vaak software is based on behavior rather than race or gender, this should not be a problem. But Couchman remains skeptical.

"With technologies that rely on algorithms — particularly in regards to human behavior — the potential for discrimination is always there," she said. "Humans have to teach the algorithm what to treat suspiciously."

Then there is the issue of transparency.

Mặc dù ông Tanaka đã giải thích rằng chuyện đó không thành vấn đề bởi phần mềm Vaak phân tích dựa trên hành vi chứ không phải chủng tộc hay giới tính, bà Couchman vẫn tỏ ra hoài nghi.

Bà nói: “Với các công nghệ dựa vào thuật toán - đặc biệt liên quan đến hành vi của con người - thì luôn tồn tại khả năng bị phân biệt đối xử . "Con người phải huấn luyện thuật toán cách xác định đâu mới là hành vi đáng ngờ"

Tiếp theo là vấn đề minh bạch.

"Are people aware of what's happening?" asked Couchman. "Do they consent? Is it meaningful consent? What happens to the data? How is it protected? Might it be shared?"

Google scraps its controversial AI ethics council days after it was announced.

Grant said consumers are willing to sacrifice some privacy for convenience — such as using face recognition for payment authentication — but only when they're aware the technology is being used.

Bà Couchman đặt ra một loạt câu hỏi: "Mọi người có biết chuyện gì đang xảy ra không?". "Họ có đồng ý với việc sử dụng công nghệ này không? Sự đồng ý của họ có thực sự có ý nghĩa? Điều gì sẽ xảy ra với các dữ liệu? Chúng được bảo vệ ra sao? Dữ liệu có thể được chia sẻ không?"

Google đã cho giải thể Hội đồng đạo đức AI gây tranh cãi của mình chỉ vài ngày sau khi thành lập

Chuyên gia Grant cho biết người tiêu dùng sẵn sàng hy sinh một số quyền riêng tư để được thuận tiện hơn - chẳng hạn như dùng nhận dạng khuôn mặt để xác thực thanh toán - nhưng chỉ khi họ biết công nghệ đang được sử dụng

Tanaka does not dispute this. "There should be notice before they [customers] enter the store so that they can opt out," he said.

"Governments should operate rules that make stores disclose information — where and what they analyze, how they use it, how long they use it," he said.

Tanaka cũng đồng ý với điều này. Ông nói: “Nên có thông báo trước khi họ [khách hàng] bước vào cửa hàng để họ có thể lựa chọn vào hay không.

Ông nói: “Các chính phủ cần đưa ra các quy định yêu cầu  các cửa hàng cung cấp thông tin về địa điểm và những gì mà cửa hàng phân tích, cách sử dụng sử liệu và sử dụng trong bao lâu”.

Christopher Eastham, a specialist in AI at the law firm Fieldfisher, said the framework for regulating the technology is not yet in place.

"There is a need for clarity from lawmakers and guidance from regulators, who will ultimately need to decide in what circumstances the use of this technology will be appropriate or desirable as a matter of public policy," he said.

Christopher Eastham, chuyên gia về AI tại công ty luật Fieldfisher, cho biết hiện vẫn chưa có khung quản lý công nghệ này.

Ông nói: “Các nhà lập pháp cần đưa ra các quy định rõ ràng, cùng với đó là sự hướng dẫn của các cơ quan pháp lý. Họ sẽ cần quyết định xem trường hợp nào là đáng và phù hợp để sử dụng công nghệ này giống như là một chính sách công .