気に入った記事をブックマーク
- 気に入った記事を保存できます
保存した記事の一覧は、はてなブックマークで確認・編集ができます
- 記事を読んだ感想やメモを書き残せます
- 非公開でブックマークすることもできます
エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
307 usersがブックマーク
117
117
「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」
307 users
nlab.itmedia.co.jp
記事へのコメント117件
- 注目コメント
- 新着コメント
zheyang
仮に実用化されたとしても、医師がこれだけで判断することはない。判断材料の一つに過ぎない。科学的根拠があるとしても、一般公開すれば濫用されて差別に使われる。根拠があることと差別になることは両立する。
puruhime
記事を出した人の保護にも言及しててよかった。叩かれてプログラム作るのやめますってなったら最悪だったよ / 昔、笑顔を判定するプログラムが叩かれてたのを思い出したよ。一概に比較できるものではないのだけれど
You-me
自閉スペクトラムは識別するものではなく診断するものだというあたりをまずねぇ 診断は医師の独占行為だから最低でも病院と連携してやってないといけなかった。病院なら最低でも倫理委員会は開いたでしょ
nyarla-net
そもそも顔認識技術自体、プライバシー侵害や反政府組織と「見なされた」人々の追跡と排除に対する反監視社会の文脈で「取り扱い注意」な技術だと思ってたんだけど、この通念ってあんまり共有されてない……？
MtAsuka
チューターが「特定のテーマを肯定あるいは否定するなどは行わず」ってのは良いことのように思えるけど、AI講座ではテーマをどう選定すべきかはAI倫理として教えるべきことそのものではないのか。
ublftbo
《実害》が少ない云々との意見がありますが、まずこれは《実害を予め防ぐ》べく批判された経緯がありますし、実害の評価自体が簡単ではないわけです。疾病等のスクリーニング一般に言えることです。楽観的すぎます。
sds-page
素人に毛の生えたレベルの実装でアレがあってもなくても今後の研究開発には影響しない。むしろ真面目に医療用AI作ってる人が勘違いされる可能性まであって今後のAI研究開発の障害になる代物だった
TakamoriTarou
今回の件で、倫理規定というものが自分を縛るものだと解釈している人が多いのも理解が足りてないと思った。あれは社会を守ると同時にそれに携わる者を守る為の規定でもあるんだよ。要するにリスク管理なんだよ
donovantree
そのうち日本人判定アプリとか作って「15円50銭」と言わせる代わりにスマホを向けるようになるのではないか。公安が共産主義者とかテロリストを判定するアプリを使うようになるかもしれない。
strawberryhunter
仮に医学的知見に基づいていても受け入れなさそうな意見が多いのは残念。それと顔に特徴が出るのはダウン症と併発している場合だと思われASD単体では表情に特徴があっても顔の形は変わらないのではということも。
lenore
ダウン症の特徴的な顔容（ホリが浅くて瞼が厚く吊り目気味）がアジア人的な特徴と一致するから欧米では差別的に呼ばれてたよね……。というのを思い出した。つまりアジア人同士で自閉症顔の比較なんて五十歩百歩。
hevohevo
“修了条件である成果物（アプリ・ブログ）は公開必須でないにもかかわらず、公開必須でないことに明確な言及ができておらず” えー。サービス公開せず勉強のために作ってみました記事だけなら違う展開もありえた
mockmock9876
(技術者)倫理には善悪の判断基準の面があり、幅広い知識がなければ判断できないんだよね。技術者がやらかしたなら倫理観の欠如だけど、今回は技術者じゃない人がやったんで倫理感の欠如と言って良いものかなのか？
yuma_0211
生成AI推進するテック企業って、専門家の意見を全く聞かないで、「はい作った！見て見て！便利！（便利ではない）」だけなんだよね。倫理的問題とか正確性担保しないし、責任は取らないで、やったもん勝ちで進めてる
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
いまの話題をアプリでチェック！
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」
IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別... IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。 Aidemy Premium 「倫理的に問題がある」など批判 物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。 削除されたブログ これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講
ブックマークしたユーザー
すべてのユーザーの
詳細を表示します
詳細を表示します
2024/08/08 リンク