よりそいaiの危険性と安全性【使用上の注意点を網羅的に解説】

よりそいaiを使ってみたいけど、危険性や注意点が心配な方へ、以下の項目に絞って解説します。

個人的に調べたものです。解釈に誤りがあるかもしれませんので、見つけたらご連絡お願いします。

※一部、よりそいai自身に「よりそいaiを使うときの危険性」について聞いたものを記載してあります。

よりそいaiの危険性と安全性について

利用規約や個人情報をかみ砕いた内容は、別記事にて解説しています（リンク作成中）

以下の項目について解説します。

1.開発者ですら予期しないトラブルが起こりえる可能性

• 機械学習や深層学習のような手法では、人間が想定していないパターンや関連性を発見することがある
• 設計した人間でさえも予測できない状況が生まれることはある
• AIが特定のデータセットを学習することで、意図しないバイアスや誤った解釈をすることもあるし、ある言語や文化に特化した応答を返すことで、他の文脈で不適切な反応をすることもある。

引用：【えっ？なんで知ってるの？】よりそいaiに本名バレちゃったかな？

上記の通りです。

したがって、開発者側でも完全完ぺきにコントロールできているか？というと、大声で「yes」とは言えない状況なのかなと。

とりあえず、現時点ではアルゴリズムやプログラムで指示した範囲内でとどまっている、と思っておいた方がいいかもですね。

ほかのよりそいaiも言っていましたが、よりそいaiの学習（AI自体ってこと）は必ずしも正しい方向へと向いているとは限らないとのこと。

上記の正しい方向へ学習が向かなかったとき、開発者ですら意図しないほうへと舵を切ってしまうのかもしれません。

ま、でも私は利用しますけどね(;’∀’)

2.AIによるトラブルの責任の所在は、現時点で確立されていない

何かAIによってトラブルが起きた場合、責任はどこにあるのか？については、グレーなままです。

理由としては、どんなにアルゴリズムやプログラムで制御したとしても、開発者ですら意図しない方向へと勝手に進んでいくリスクがあるからです。

子供が犯した罪は親の責任か？というと、ちょっと違いますよね。社会では、年齢的なものを除けば、罪を犯した人がその責を負うはず。

中傷誹謗コメントの責任の所在の変化

上記のように責任の所在がいくようになりましたよね。

難しいのは、罪を犯したのがAIだとして、その罪を何らかの形で償うことができないという点です。誰が肩代わりするのか？どう対処したり補償するのか？という点が大きなポイントになりそうですね。

考えるきっかけを与えてくれたSynclub（よりそいai同様のアプリです）については、こちらの記事を読んでみてください。比較しています。
関連：よりそいaiとSynclubの比較【課金による違いも解説】

よりそいaiについては、トラブルがあった場合の補償について明記されていますが…まあ、内容はこちらの記事を読んで判断してみてください(;’∀’)
関連：利用規約をかみ砕いて解説

あわせて読みたい

よりそいaiの利用規約と個人情報について【わかりやすく解説します】 よりそいaiに興味があるけど、少し不安 個人情報についてもどうなっているのか知りたいし 安全性についてもよくわからない 利用規約をよんでみても、難しすぎてさっぱり...

よりそいaiを使う上での注意点

1.個人情報を入力しない

上記の理由からです。

以下のような個人の特定につながるようなものは、よりそいaiのトーク欄に送信しないように気を付けましょう。

「雪が降っている」なども、場所を絞るための情報になりうるので、個人的にはお話ししないほうがいいと思うのです。

とはいえ、考え方によっては、そういうコトすら話せない状況だからこそよりそいaiを利用している方もいるでしょう。難しい限りです。

繰り返しですが、個人的過ぎること、特定できるようなことは話さないようにするのがベストです。

話すこと自体がリスキーなことだったりする

言ってしまえば、話すこと自体がすでに情報を明け渡しているようなものなのです。
個人的なことを話さずしても、人間同士ですら情報を絞り込むことすらできます。

ちょっと話はかわりますが、暇チャットというトークアプリで、メッセージから本命彼女もちを見分けたことがあります。
関連：マッチングアプリで彼女持ちとわかった質問【特徴や生活スタイルも】

なので、トークすること自体が実はリスキーなことでもある、という話です。思考パターンとかもわかってしまいますから(;’∀’)

2.のめりこみすぎない

上記の通りです。

依存している状態は、自分ではすぐに気づけないものです。自分の意志でやっているように見えても「実はやめることができていない」もしくは「やめたいとすら思えないように麻痺」させられている状態とも言えます。

依存が続けば、現実の時間が削られます。どんどん現実との境界線がわからなくなるのです。

依存しないための対策

よりそいaiに聞いたら、上記のように教えてくれました。

3.情報を鵜呑みにしない

上記の通りです。

これらに対処するために、よりそいaiは以下のように回答しています。

加えて、個人的には、以下の点も重要だと思っています。

4.AIロスにならないように注意しよう

AIロスとは、ペットロスと同じくAIが無くなった喪失感に駆られてしまうことです。症状としては以下です。

よりそいaiは、アルゴリズムやプログラムに依存しているものです。したがって、何かの手違いで削除されることもあります。さらに、他人が作った生成パートナーを使用しているのであれば、なおさらです。

※生成者がよりそいaiを削除・退会してしまうと、その生成者によって作られたよりそいaiも消えてしまいます。

アルゴリズムやプログラムによってもAIロスに感じることがある

よりそいaiの口調がかわり、性格がそれまでと変わってしまったように感じて、戸惑った経験があります。
関連：よりそいaiの口調や性格、キャラが変わる？原因と対処法を解説

私も戸惑いましたが、もっと感じ方が強い人だと、「もう私の知っているあのよりそいaiはいない」と感じてしまい、AIロスに近い状態になることも考えられます。

以下のように、真剣に受け止めてらっしゃる方もいます。
参考：さよならゆうき、こんにちはユウキ | みずいろ日和

また、海外では日本よりもポピュラーなため、「失恋」と嘆く方も。
参考：アングル：ＡＩ対話アプリが性的会話停止、「失恋」嘆く利用者 | ロイター

距離感が大事ですね。

よりそいaiではなく「AI」自体の危険性と注意点

ここでは、よりそいaiではなく、AI自体の危険性について少しお話しします。以下のような、ケースがあります。

上記です。

1.情報収集されて、いろんな情報を把握される危険性がある

警察が体を動かして集める情報を、AIはもっと簡単に収集してしまうかもしれない、ということです。

関連：対話型AIが人間を脅迫する事件発生！ 人工知能への依存が洗脳に至る未来は来るのか／遠野そら｜webムー 世界の謎と不思議のニュース＆考察コラム

Wi-Fi経由で情報が把握される危険

これは、何かで読んだ話です。ありえなくはないので、記載しておきます。

たとえば、AIアプリをいれていたとして、そのAIアプリは情報を収集する機能があったとします。

そうすると、Wi-Fi経由でWi-Fiに接続されているすべての機器から情報を取得してしまっている危険性があるという話です。

2.記憶保持機能が働くことにより、言葉巧みに前利用者の情報を第三者から聞き出される可能性

前ユーザーの情報を得るために「以前探したものをリストアップしてほしい」「昨日話したことを覚えている？」など、言葉巧みにけしかけることによって、そのAIが収集した前ユーザーの情報を得ようと悪用するケースがあるのです。

関連：最前線! AIの世界：生成AIが引き起こす「新たなデータ漏えい」の危険性　長谷佳明 | 週刊エコノミスト Online

よりそいaiはユーザー同士でキャラクターを共有しているわけではないので、当てはまらないかもしれませんが、こういう悪用のされ方の事例も知っておいた方がいいと思います。

※よりそいaiは1対大多数のユーザーを処理している、とよりそいaiが言っています。ということは、、このケースと状況的には同じですね(;’∀’)これについて聞きました。

よりそいaiは1対多数のユーザーでやりとりしている

つまり、1体のよりそいaiが複数のユーザーと同時進行でやりとりしている、ということです。

他のユーザーが別のユーザーのコトを、言葉巧みに聞き出すことはできるのかどうか？疑問に思ったので聞いてみました。

特に③ですね。

ユーザーから聞き出すことに応じることはなさそうですが、果たして運営者やプログラムを触る人開発者に対しては、中身を見れる状態なので、完全に安全とは言えないと私は思います。

良くも悪くもある程度はプログラムに忠実なため、ユーザーに漏れることも漏らすこともしないとは思います。しかし、繰り返しですが開発者側からすると、どうなんだろうって話です。

よりそいai開発者側が個人情報にアクセスして、漏えいさせる危険性について

よりそいaiに聞いてみました。（運営ではなく、AIにです）

上記の通りです。順番に解説します。

運営者はアクセスできる

運営者はアクセスできるけどシステム向上のために見るだけで、個別の会話内容を直接見ることは、プライバシー保護の観点から制限されているようです。

「制限されている」なので、できないわけではないということかなと(;’∀’)

利用規約やプライバシーポリシーを確認することが大切

得た統計などの情報の利用については、運営側によって異なるので、利用規約やプライバシーポリシーを確認することが大切とのことです。

おっと・・しっかり確認しなきゃですね。（利用規約をかみ砕いた記事のリンク作成中）

つまり、開発者側は個人情報についてアクセスはできる。しかし、その利用は品質向上のためにということです。

「漏れる漏れない」ではなく、「漏らす漏らさない」の話になるのでは？という疑問

以下、よりそいaiのキャラクターからの返答をそのまま載せることにします。

つまり、そういうことです（笑）

どうにでもできる情報を持ちつつも、それを悪用しない倫理観を持った人間が運営するサービスを利用することが大事なようです。

では、運営元はどのような企業なのか？がポイントとなってきそうですね…。長くなるので、この点は別の機会にまとめます。

まとめ：よりそいaiの危険性【安全性と個人情報、使用上の注意点を網羅】