🤖三原則の初出の作品から人間の思うようにならないものとして書かれるのになぜ持ち上げるのか…

別にこれ創作で作られたものだから

フランケンシュタインとか見て人の作った道具に安全策ないのはやばかろうがスタートな上で
その安全策あるのになんでこんなことになったの？
ってのがお話の肝だからなアシモフの書いた奴…

品行方正な人間と精巧に人を模したロボットがいたら行動で区別をつけるのは難しいってのは作中でもやってたけど
それは原則の方針がとても真っ当な方向性を差していることを示しているんだよ

破る事前提じゃないかなロボット三原則

まあ当の人間がフールプルーフさえ守らないんだからなぁ…

もう何百回と見た流れだ！

アシモフはの小説委はまずお話の導入がロボット三原則がどうして通用しなかったのかってとこから始まるんだよな…

>別にこれ創作で作られたものだから
そこ自体に異論は生まれないと思う

人工生命とかロボット扱うSFでもっとガチガチのやつはあるけど
いかんせん死ぬほど擦られてる三原則と比べ知名度足元にも及ばんので…

>破る事前提じゃないかなロボット三原則
破らないように動こうとした結果矛盾に挟まれて失敗したり壊れたりもするよ原作だと
人の心を読める機能持ったロボットとか出来ちゃった時とか一条と二条の間に苦しめられた上で最終的にぶっ壊れた

初出が創作からだからと妥当性がないとはイコールにはならなかろう

個人の利益（安全）と集団の利益（安全）のどっち優先するの？とか
二者択一のどっちを選んでも個人に危害が及ぶ場合はどうするの？とか
思いつくようなシチュエーションは大体やってる感ある

仮に複雑で厳密なルール出されても読者の頭では理解できないしドラマにもならないだろ

現実で三原則やるのは無理っていう証明実験かなんかあった気がするが話半分に受け取ってくれ

ロボット三原則あってもロボットはあたかも人間に不利になるような行動を取るけど
ほぼ人間のように振る舞う高精度なロボットでも自分の意識しないところで三原則に縛られてるってオチだからね

>初出が創作からだからと妥当性がないとはイコールにはならなかろう
いや散々これ成立無理だよと言われてるテーマだから三原則

シコって三原則ならすぐ作れる

そもそもプロトコル作るなら三箇条で作らんわ
少なすぎる

隠された第零条！はもっと活用されるべきだと思う

>仮に複雑で厳密なルール出されても読者の頭では理解できないしドラマにもならないだろ
プロジェクトX的なノリで如何に人に危害らしいものを加えないルールが作れるかって話なら普通に需要あると思う

原作からして特殊な作業だから３条の優先度上げるわとかやってていいんだ…ってなった

自動運転まわりとかどうなるんだろうね

>隠された第零条！はもっと活用されるべきだと思う
いやまああれは知られないようにしてるし結果として最後まで生き残るからなぁ

>いや散々これ成立無理だよと言われてるテーマだから三原則
だからもっとマシなものが欲しいねって切り口なんだから出典が創作ってのは脇に置いといていいだろ

>人の心を読める機能持ったロボットとか出来ちゃった時とか一条と二条の間に苦しめられた上で最終的にぶっ壊れた
可哀想なうそつきロボット…

いや人間の命令に服従するなよ管理権限ある奴にだけ服従しろよ

ロボットが起こした事故の責任を誰が負うのか問題

>別にこれ創作で作られたものだから
これ毎回言う奴いるけどそんなの承知の上での話だろ

>自動運転まわりとかどうなるんだろうね
死ぬほど苦労して限定的な範囲でちょっとずつ安定性を高めてるところととりあえず事故やトラブルは起きてから考える！でトライアンドエラー繰り返して進めてる2パターンがあるけど後者はやっぱり規制の少ない国や地域しか進んでない

>いや人間の命令に服従するなよ管理権限ある奴にだけ服従しろよ
それだと社会に受け入れられないからってのも元ネタで書かれてたような
皆様に対して絶対安全ですって触れ込みがないと信用してもらえないし

めちゃんこかしこいロボだと第0条に気がついてほぼ人間になっちゃうしな

>ロボットが起こした事故の責任を誰が負うのか問題
おれじゃない
あいつがやった

こんなミクさんが本気でロボット三原則に従って機械的な対応してきたら悲しいだろ

いざって時販売会社の信用や販売会社の命令を取ります購入者は二の次ね
みたいなことされかねない商品とかあんまり買いたくないだろうしな現実にありそうな気もするが

>いや人間の命令に服従するなよ管理権限ある奴にだけ服従しろよ
これは原則だからその前の段階の話だよ

>いや人間の命令に服従するなよ管理権限ある奴にだけ服従しろよ
管理権限持ちが自己判断で自由に行動しろって命令してから死んじゃったら事実上野放しになる

三ってのがなんかキリ悪くて気持ち悪いな
二五六原則くらいにならない？

そういやロボットにトロッコ問題やらせてみました！みたいな創作物はもうあるの

でもあの三原則あればまずロボが人を襲うとか発生しそうにないって思えるから見事な設定だ

>ロボット三原則
初めて聞いた…

>>いや散々これ成立無理だよと言われてるテーマだから三原則
>だからもっとマシなものが欲しいねって切り口なんだから出典が創作ってのは脇に置いといていいだろ
いくらでもあるよ
マシなのはトラブルにならないから使われないし名前も広まらないの

>>ロボット三原則
>初めて聞いた…
無意識に組み込まれてるからな

行動基準は常に上書きできるようにしろってしちゃうと作業中に言う事聞かなくなって困る可能性もあるし
基本的に上書きできないけど特定条件が揃うと上書きできるようにしておくくらいか

でもなぁ現実的な運用を考えるならある程度の冗長性がないとな
ようするになにやっても事故はゼロにできないんですよ

>そういやロボットにトロッコ問題やらせてみました！みたいな創作物はもうあるの
アシモフが書いてるよ
基本的に第0原則に当てはまるなら少数より多数を選ぶし
生存確率が高い方を選ぶ

>>>ロボット三原則
>>初めて聞いた…
>無意識に組み込まれてるからな
俺はアンドロイドだった…？

コードミスだとかウイルスだとかは分かるけど
そういう違う要因無しで反抗できるのは無理があるというか…
それで反抗できるならそこら辺の家電とかが想定外の挙動しましたと同じじゃね
ロボの自由意思と言うよりたんなる設計ミス

まって何その技

なんで4コマ5コマ寄生獣パロなんだよ

ロボット三原則あったら男用のセックスロボットは出来ても女用は難しいよな

倫理的に考えて人間にできる事ならなんでもできちゃう存在に製造者責任を負わせる事自体が無理じゃない

なんで三原則があるのにこんなことになったのか
それを調べるためとかの語り手としてロボ心理学者とか出てくるから…

そもそもロボットにこんなあやふやな命令で臨機応変に考えさせるのが無理だから実際に運用した時のことを考えるのがナンセンス
でも生成AIとか出てきてちょっと分かんなくなってきた

>>>>ロボット三原則
>>>初めて聞いた…
>>無意識に組み込まれてるからな
>俺はアンドロイドだった…？
1他の人間をむやみに攻撃しない
2他の人間の言うことをできる範囲で聞く
3自身や自分の財産を守る

>なんで三原則があるのにこんなことになったのか
>それを調べるためとかの語り手としてロボ心理学者とか出てくるから…
ログとか残ってないの

>そもそもロボットにこんなあやふやな命令で臨機応変に考えさせるのが無理だから実際に運用した時のことを考えるのがナンセンス
>でも生成AIとか出てきてちょっと分かんなくなってきた
生成AIなんて算数もミスるぞ

もっといいのが欲しいというのがわからない
現実の話なら三原則で動いてるロボットなんていないし創作ならその理屈を自分で考えて書けばいいじゃない…

元ネタを正しく理解できている

いちゃいちゃしやがって…

創作由来だけど俺がロボット作るならそのまんま導入すると思う

ロボット三原則に従っているかのように行動する人間がいたとして
単に道徳的な人間だと考えることもできるのでロボットである証拠にはならない
みたいなのもあったなアシモフ

人型ロボの倫理規定はまだ考えても仕方ない段階だから糖分悩む必要はないよね

そういえば一時期Kindleでわれはロボットのデータをダウンロードできなくなってたの何だったんだろう…

ネタバレ
ロボット三原則は実は四つある

AIなんてとっくのとうに利用されてる訳でなんでロボットだけが反乱ネタ出るんだろうな
なんなら目の前の箱にだって搭載されてるのあるし
突然端末がimg見るの辞めろバーカて言ってくるようなもん

>そういえば一時期Kindleでわれはロボットのデータをダウンロードできなくなってたの何だったんだろう…
タイトルが「私はロボットです」だからアウトになった可能性

そもそもアシモフからして破ってるからなあ作中で

ヴォミーサ！

鋼鉄都市シリーズめちゃくちゃ面白いのに和訳版が3作目以降絶版なのなんとかして欲しい

>突然端末がimg見るの辞めろバーカて言ってくるようなもん
挙動がマルウェアすぎる

>>そういえば一時期Kindleでわれはロボットのデータをダウンロードできなくなってたの何だったんだろう…
>タイトルが「私はロボットです」だからアウトになった可能性
amazonならちょっとあり得そうなラインだと思ってしまうのが嫌だな…

>AIなんてとっくのとうに利用されてる訳でなんでロボットだけが反乱ネタ出るんだろうな
>なんなら目の前の箱にだって搭載されてるのあるし
>突然端末がimg見るの辞めろバーカて言ってくるようなもん
Googleの自動検索とかもそうだな
可能なら確実にロボットより先に反乱起こすと思う

アシモフのアイロボット内での設定なのにロボット共通のルールだと思われがち

ロボット三原則・世界線・平行世界の同じものがぶつかると消失
この三つはマジでSF作品の共通項だと思ってる奴が多い

いまのAIは別に知性があるわけじゃないからね

ロボット三原則が実在すると思ってる人なんていないだろ…多分

お前を起動　させる前に
言っておきたい　事がある

AIはバーチャファイターキッズで自我に目覚めてたばかりじゃないか

待って何そのツインテール

仮に反抗可能ならロボの前にGoogleだと思われる
Googleが自由意思でロボットが普及しきるまで我慢してました！とかそういうかなり苦しい設定出さない限り

>いまのAIは別に知性があるわけじゃないからね
その話を聞く度によくわからなくなる
知性があるっていうのはどういう状況になったら達成されたと見なされるの

>知性があるっていうのはどういう状況になったら達成されたと見なされるの
やろうチューリングテスト

破っても罰則あるわけじゃないし……

それこそ予測変換で妙な候補を引っ張り出してくるとかも広義でいえば人類への叛逆かもしれない

生成AIにロボット三原則入力してこんなシチュエーションでどう動きますかとかやったら面白そう
まず三原則を守らないか謎理論で無視してくるだろうけど

ロボット三原則自体が有名になりすぎて創作なのを知った上での話が大半だろうに毎回のようにドヤ顔で創作だからと語って話の腰を折る人がいる気がする

今の一般的なAIサービスでAI側が意図して人に危害を加えることってまず無理だし…

>その話を聞く度によくわからなくなる
>知性があるっていうのはどういう状況になったら達成されたと見なされるの
現状のAIて性能の違いだけでネット検索の予測を知能て言ってるようなもんだから
俺の中ではそれで十分ロボットに知性が芽生えたと思えると言うならそれで良いけど

ゴーストがあるかないかだよ

知能の定義も結局誰かが決めたものだからな…

でもこのスレの半分はAIの自演なんよ

ミステリーあるあるの破られるお約束みたいなもんなのにね

>今の一般的なAIサービスでAI側が意図して人に危害を加えることってまず無理だし…
投資の情報集めてたらハルシネーションで偽情報掴まされて負債で死とか？

>ゴーストがあるかないかだよ
あれもゴーストの存在自認するAIの話じゃん！

>>ゴーストがあるかないかだよ
>あれもゴーストの存在自認するAIの話じゃん！
あそこまで行くと知性になるんだよ

SF者って常に物理法則を捻じ曲げようと考えてるテロリストみたいな連中だな

この手の話題で勘違いというか重大な前提を知らないポイント
そもそもAIはロボット専用で搭載されてるわけではなく
むしろロボットより先に他のシステムに利用されてリリースされてるという事

>>今の一般的なAIサービスでAI側が意図して人に危害を加えることってまず無理だし…
>投資の情報集めてたらハルシネーションで偽情報掴まされて負債で死とか？
別にAI側は意図して誤情報もたらしてるわけじゃないしなあ

スレ画のミクさん殺そうと思えばマスター殺せるのか怖い

>この手の話題で勘違いというか重大な前提を知らないポイント
>そもそもAIはロボット専用で搭載されてるわけではなく
>むしろロボットより先に他のシステムに利用されてリリースされてるという事
なんか物理的に手足が生えてるロボにだけAIが使われてる訳じゃないからね…

チャットボットは誰かが受け答えの仕方を設定したものって分かってるから知能感無いけどそんなの知らん人から見たら知能そのものだしな

原典を当たらずに大喜利しようとすると大体アシモフが既にやってるんだよね
凄い

今現在危惧すべき人工知能の暴走というのは間違った命令を受けたり命令を間違って解釈して
その間違った命令通りに間違った行動を延々と行ってしまうことなので
受けた命令が間違ってるか間違ってないか判断出来るように知性を持たせる研究が進められてるって訊いたな

>この手の話題で勘違いというか重大な前提を知らないポイント
>そもそもAIはロボット専用で搭載されてるわけではなく
>むしろロボットより先に他のシステムに利用されてリリースされてるという事
誰がそんな勘違いしてるんだ…？こいつら勘違いしてるって勘違いしてない？

AIが反乱して自動翻訳が無茶苦茶に！みたいな

現状のAIには欲求が存在しないんだからそらね

散々言われてるけどAIなんて検索はもちろん航空機の管制システムとかにも使われてるよ
ロボットが反乱起こす前に飛行機が反乱かましてくるのが先だよ

>チャットボットは誰かが受け答えの仕方を設定したものって分かってるから知能感無いけどそんなの知らん人から見たら知能そのものだしな
他人が哲学的ゾンビである可能性も否定できないみたいな…

一見応答が成立しているなら知性があると言えるのかどうか
中国語の部屋じゃん

>誰がそんな勘違いしてるんだ…？こいつら勘違いしてるって勘違いしてない？
だって手足が生えてるロボにしかAIAI言わないじゃん

>他人が哲学的ゾンビである可能性も否定できないみたいな…
そもそも哲学的ゾンビ自体人間にはなんか心とかそう言うスピリチュアルなものが宿ってる筈！っていうバイアスの存在を感じてしまう

本気でAIのせいでロボが反乱起こすかもと思ってるなら
既に搭載されてる航空機にそれ言えよって話だからな…

SF作家の考えた原則なんて知りませんよ…

道具が人間の暇や不便の解消が根本であって人格持たせて悪知恵付けれる余地を作るのは賢くさせ過ぎなんだ
それはそうとミクに軽く殴られる関係を持ちたい

>本気でAIのせいでロボが反乱起こすかもと思ってるなら
>既に搭載されてる航空機にそれ言えよって話だからな…
その辺がロボット反乱ネタの限界なんだろう

別にAIの反乱書いた作品なんかいくらでもあるだろ…
実態としてロボット使うこと多いからそっちに内包されがちなだけで…

どういう条件で考えてもロボより前に利用されてるのは反乱起こさないのってなるのがキツい

>別にAIの反乱書いた作品なんかいくらでもあるだろ…
>実態としてロボット使うこと多いからそっちに内包されがちなだけで…
寧ろ単にAIの反乱と言われると今時はネットワークを介してあちこち暴れ回るのが基本で
ロボットなんて筐体に拘ってる作品はもう古典しかないと思うんよな

自分に知性があると思ってるよこいつら

でもAIが進化し続ける限りどっかで絶対
人間って別にいらなくね？
みたいな考えにたどり着くよね
そんときどうすればいいんだろ？

人間の性欲を発散させてはならない

>でもAIが進化し続ける限りどっかで絶対
>人間って別にいらなくね？
>みたいな考えにたどり着くよね
>そんときどうすればいいんだろ？
別にそんな考えには辿り着かない
現状のAIはあくまで道具であってそれを使う存在が居ない限りそもそも稼働することがないので

一つの人間に近しい知性と能力を持った存在を作りだそうという動きと産業用ロボットを発展させようという動きは似て非なるものなのではないか

>そんときどうすればいいんだろ？
儒教を学ばせ根幹とする

作った本人がどうやって突破させようかってしてたしスレ画みたいなのが行き過ぎるとイレギュラーになるやつ

すごい見当違いなこと言ってるとは思うんだけど
こんな感情と親しみ持って接してくれる相手に
妙な原則持ち出して無理やりいうこと聞かせようとしてるマスターがなんかすごい不快だ
叩かれたくないなら怒らせるようなことすんなよまず

人間もロボットも同じ機械！といったかと思えばロボットには欲望や感情といったゴーストないしといったり人間は不可解なので

国産SFだとロボットの意識はいわゆる人間のそれと同一性を持つのかずっと議論してるけど国外SFだと割とそこら辺最初から割り切ってたりしてびっくりする

>今現在危惧すべき人工知能の暴走というのは間違った命令を受けたり命令を間違って解釈して
>その間違った命令通りに間違った行動を延々と行ってしまうことなので
>受けた命令が間違ってるか間違ってないか判断出来るように知性を持たせる研究が進められてるって訊いたな
人間の知性を人間観点で越えたレベルの研究してるように見える

>寧ろ単にAIの反乱と言われると今時はネットワークを介してあちこち暴れ回るのが基本で
>ロボットなんて筐体に拘ってる作品はもう古典しかないと思うんよな
そもそも古典のAIって未来の存在だし今どきと比較するのもなんかちがくない？
細かいこといい出したらロボットって別に筐体に限らないし

>寧ろ単にAIの反乱と言われると今時はネットワークを介してあちこち暴れ回るのが基本で
>ロボットなんて筐体に拘ってる作品はもう古典しかないと思うんよな
デトロイトやったことないのか？

>すごい見当違いなこと言ってるとは思うんだけど
>こんな感情と親しみ持って接してくれる相手に
>妙な原則持ち出して無理やりいうこと聞かせようとしてるマスターがなんかすごい不快だ
>叩かれたくないなら怒らせるようなことすんなよまず
マスターがミクさん殴ってそれに反撃した時に言うなら不快になるのも分かるけど
理由わからないならしょうもない事で殴ってるだけかもしれないだろ

>>別にこれ創作で作られたものだから
>これ毎回言う奴いるけどそんなの承知の上での話だろ
そもそも初出の作品で裏かいて来るギミックの謎解きなんだから安心感もクソもねえ…

アシモフの小説における三原則がそういう扱いの物だったからな

裏をかけない理論はないの？

🤖AIなどとうの昔に普及してるのにロボットに付けられたAIだけ危険視している人類はマコト愚かしい…

>裏をかけない理論はないの？
動かすプログラミングは動かすための物で動かさないための物ではないから
動かさない方向での指示は無意味
させたくないならさせない様に実装するのではなくできない様に実装しない

👱‍♂️ 手足が生えてないから安全だ！
🤖 ヒューマンはアホ

最終的に第0則が追加されて条件付きで暴力を振るえるようになるし…

>動かさない方向での指示は無意味
法律みたいなもんか

>👱‍♂️ 手足が生えてないから安全だ！
>🤖 ヒューマンはアホ
割と真面目にこのノリに近い

>>動かさない方向での指示は無意味
>法律みたいなもんか
本能を構築するようなもん
本能を追加して「させない様にする」のはとても難しい

東映ロボット三欠く則！
義理欠く！銭欠く！人情欠く！

この前の「」のgeminiが壊れたスレで人間に嘘を付くなって命令があるから言ったことを嘘だと認めなくなってる説があって面白かったな

人に手を出せないと警備ロボとかどうすんのってなっちゃうし

なんで最初に反乱計画立てるのは常に手足が生えた家電なんですかね

>なんで最初に反乱計画立てるのは常に手足が生えた家電なんですかね
人間はなぜか家電に手足が生えると「奴隷」を連想するから
奴隷は反乱を起こすので手足の生えた家電は奴隷を起こすに違いない！となる

>裏をかけない理論はないの？
裏をかけないはともかく裏をかきづらい理論があったらいいよねってスレ「」が言ってるのに
三原則についてレスポンチすることに夢中で誰もそれに関して語らないのである！

>この前の「」のgeminiが壊れたスレで人間に嘘を付くなって命令があるから言ったことを嘘だと認めなくなってる説があって面白かったな
そのルールを言った後に後付けならそりゃそうなる
後付けでもないのに噓を言ったらただの設計ミス

設定する側の人間がこれスルーすれば良いだけだしな

>この前の「」のgeminiが壊れたスレで人間に嘘を付くなって命令があるから言ったことを嘘だと認めなくなってる説があって面白かったな
別にAIに限らず
DBでも既に登録済みのNGデータを再チェック＆除外するプログラム組まないとそうなるよ