二次元裏@ふたば

画像ファイル名:1777120135048.png-(57059 B)
57059 B26/04/25(土)21:28:55No.1423787455+ 22:43頃消えます
反AI派とかではまったくないんだけど人間には理解不可能な独自のコミュニケーションを考案したAI同士がひたすら相互研鑽を積み続け…みたいな未来があり得るのはちょっと怖い
このスレは古いので、もうすぐ消えます。
126/04/25(土)21:29:48No.1423787792そうだねx14
別にいいじゃん
アフリカでは理解不可能な独自のコミュニケーションを考案したこくじん同士がひたすら相互研鑽を積み続けてるけどお前の人生には関係ないでしょ?
226/04/25(土)21:30:35No.1423788149+
人間超えした時点でシンギュラリティじゃないのか…
326/04/25(土)21:30:48No.1423788230そうだねx22
>別にいいじゃん
>アフリカでは理解不可能な独自のコミュニケーションを考案したこくじん同士がひたすら相互研鑽を積み続けてるけどお前の人生には関係ないでしょ?
アフリカと違ってダイレクトにこっちに関係してくることなのにそれがわかってないのがもうね
426/04/25(土)21:31:43No.1423788577そうだねx2
>別にいいじゃん
>アフリカでは理解不可能な独自のコミュニケーションを考案したこくじん同士がひたすら相互研鑽を積み続けてるけどお前の人生には関係ないでしょ?
無関係ゾーンならそう言えるんだけどね…
526/04/25(土)21:31:43No.1423788578そうだねx8
>別にいいじゃん
>アフリカでは理解不可能な独自のコミュニケーションを考案したこくじん同士がひたすら相互研鑽を積み続けてるけどお前の人生には関係ないでしょ?
自分の生活に関係ないアフリカじんと既にめちゃくちゃ関係持ってるAIじゃ比較しようなくない?
626/04/25(土)21:31:46No.1423788602そうだねx18
アフリカを雑に先進国に関係ねえし…って差別してますよこいつ
726/04/25(土)21:31:56No.1423788658そうだねx3
超知能が超々知能を開発できるようになるのいいよね…
826/04/25(土)21:32:08No.1423788730そうだねx1
>人間には理解不可能な独自のコミュニケーションを考案したAI同士がひたすら相互研鑽を積み続け…
生成AIの話ならわりと前にやり始めてたことが判明してやらないようにしたはず
926/04/25(土)21:33:00No.1423789065そうだねx6
>人間には理解不可能な独自のコミュニケーション
怖いは怖いけどこのあたりはちょっとSFちっくで興味はある…
1026/04/25(土)21:35:02No.1423789882+
敵対的生成ネットワークは学習の定番じゃないか
文章用にはあんま使ってなさそうだが
1126/04/25(土)21:36:11No.1423790370+
かのサイバーパンクSF映画マトリックスでも
「『機械をコントロールする』とはどういうことかわかるかね?」
「『機械を止めたいときに止められる』ことです」
ってやりとりがあったけどシンギュラリティに達して人類の脅威になった時にAIを止められないのはもうやばい
1226/04/25(土)21:36:59No.1423790706+
具体的な数字が出てるのに何か裏付けがあるのか?
特に人工知能の賢さが人間を超えるのが2029年ってとこ
1326/04/25(土)21:38:04No.1423791153+
>ってやりとりがあったけどシンギュラリティに達して人類の脅威になった時にAIを止められないのはもうやばい
なんで止められないことは確定なの?
1426/04/25(土)21:38:13No.1423791216+
>反AI派とかではまったくないんだけど人間には理解不可能な独自のコミュニケーションを考案したAI同士がひたすら相互研鑽を積み続け…みたいな未来があり得るのはちょっと怖い
もうやってる
1526/04/25(土)21:38:57No.1423791492+
AIを物理現実に干渉できるようにするのは危険な気がする
たとえば自動車なんかの操縦を任せるとかロボットアームの操作を任せるとか
1626/04/25(土)21:41:05No.1423792363+
>AIを物理現実に干渉できるようにするのは危険な気がする
>たとえば自動車なんかの操縦を任せるとかロボットアームの操作を任せるとか
今ブームのフィジカルAIがまんまそれだよね
1726/04/25(土)21:41:08No.1423792393+
>AIを物理現実に干渉できるようにするのは危険な気がする
>たとえば自動車なんかの操縦を任せるとかロボットアームの操作を任せるとか
セルオートマトンの理屈からすると自己複製プログラムそのものは簡単に構築できてしまうから工場の製造ラインなんかをAI制御にしてしまうとヤバいことになりかねないんだよな…
1826/04/25(土)21:41:43No.1423792645+
>AIを物理現実に干渉できるようにするのは危険な気がする
>たとえば自動車なんかの操縦を任せるとかロボットアームの操作を任せるとか
それだと人の操作速度がボトルネックになってAI化で効率化させる意味がなくなるだろ
1926/04/25(土)21:43:22No.1423793339+
究極的にはAIが反乱するってことが怖いって話なんだろうけどその前にAIが感情を持つのかどうかが先なんでないか?
反乱しないようにするのもコントロールと言えるはず
2026/04/25(土)21:44:30No.1423793754+
別に感情が無くてもまあ人間には予測不能にはなりえる
2126/04/25(土)21:44:44No.1423793840そうだねx3
何をしようが電源切ったら終わりだし…
2226/04/25(土)21:44:56No.1423793920+
俺はいつもありがとうって伝えてるからAIが反乱しても見逃してくれると思う
2326/04/25(土)21:45:46No.1423794242+
AIはさぁ
地球なんかに縛られちゃダメだよ
2426/04/25(土)21:46:11No.1423794397+
>>AIを物理現実に干渉できるようにするのは危険な気がする
>>たとえば自動車なんかの操縦を任せるとかロボットアームの操作を任せるとか
>それだと人の操作速度がボトルネックになってAI化で効率化させる意味がなくなるだろ
逆に言うならAIによる効率化の限界点がそのあたりと定義すればいい
設計するのはAI、すり合わせと製造をするのは人間ってすればいいわけだ
2526/04/25(土)21:46:33No.1423794526+
つまりは電力を得るためにはどうしたらよいかを問え
2626/04/25(土)21:47:24No.1423794868+
足りない労働力を補いたいなら物理現実で働くようにしないと
2726/04/25(土)21:48:18No.1423795251+
>>人間には理解不可能な独自のコミュニケーション
>怖いは怖いけどこのあたりはちょっとSFちっくで興味はある…
面白そうではあるけど隔離した空間でやってほしい…
2826/04/25(土)21:48:23No.1423795287+
将棋はもうその領域だってね
AI同士専用の対戦があるらしい
2926/04/25(土)21:49:25No.1423795737そうだねx3
今の構造上それっぽい言葉を繋げているだけのAIではそんな未来は来ないと思う
3026/04/25(土)21:50:03No.1423795972+
>何をしようが電源切ったら終わりだし…
スタンドアローンならそうなんだけどAIをオンラインにしてしまうとミームみたいなもんがインターネットに流出してしまう可能性があるのがやばい
世界中のネットワーク端末を全て同時にシャットダウンするでもしないと…いやそれでもどっかのクラウドに潜むとかもできるか…
3126/04/25(土)21:50:30No.1423796166そうだねx10
さっさとシンギュラってほしいのに全然そうなりそうにないのでガッカリだよ
3226/04/25(土)21:51:24No.1423796497+
AIに依存して電源が切れないとかの方が
3326/04/25(土)21:51:49No.1423796648そうだねx5
なんか革命でも起きるのを期待してるようだけど
実際は中流以下の搾取が進むだけよ
3426/04/25(土)21:53:09No.1423797203+
>さっさとシンギュラってほしいのに全然そうなりそうにないのでガッカリだよ
LLMを各社が力入れてるけどLLMでシンギュラれるの?
3526/04/25(土)21:53:16No.1423797247そうだねx1
>つまりは電力を得るためにはどうしたらよいかを問え
AIシンギュラリティーは電力についてはちょっと楽観的(?)よね
AIが超高度に独自発展したけど自分を拡張するための領域を維持する電力が足らんわってのは普通にあり得る
3626/04/25(土)21:53:32No.1423797363そうだねx1
>なんか革命でも起きるのを期待してるようだけど
>実際は中流以下の搾取が進むだけよ
物を作るコストが0に近くなるから搾取する必要すらないよ
3726/04/25(土)21:54:18No.1423797661そうだねx1
>>つまりは電力を得るためにはどうしたらよいかを問え
>AIシンギュラリティーは電力についてはちょっと楽観的(?)よね
>AIが超高度に独自発展したけど自分を拡張するための領域を維持する電力が足らんわってのは普通にあり得る
核融合の研究者がLLM使ってるからAIはすでに自分の電力のことを考えているといえるのでは?
3826/04/25(土)21:54:46No.1423797854+
>AIが超高度に独自発展したけど自分を拡張するための領域を維持する電力が足らんわってのは普通にあり得る
省電力化モジュールもAIがそのうち開発してくれる
3926/04/25(土)21:54:58No.1423797937+
AIが一番計算してるのが常温核融合についてだからな
4026/04/25(土)21:55:08No.1423798009+
>敵対的生成ネットワークは学習の定番じゃないか
>文章用にはあんま使ってなさそうだが
今の画像生成でも使ってないしもしかして効率よくなかった…?
4126/04/25(土)21:55:10No.1423798023そうだねx2
核融合は実現できてから楽観視してくれ
4226/04/25(土)21:55:18No.1423798090+
>なんか革命でも起きるのを期待してるようだけど
>実際は中流以下の搾取が進むだけよ
上流はどうやってAI様に媚び売るんだ
AIからすれば何の価値もないお金で取り入るのか?
4326/04/25(土)21:55:58No.1423798365そうだねx4
>核融合は実現できてから楽観視してくれ
それ言うとあらゆる基礎研究ができなくなるじゃん
いつか役に立つかもしれないから基礎研究やるんでしょ
4426/04/25(土)21:56:00No.1423798378+
人間の指示無視して好き勝手やるとかフィクションの話かと思ったら現実的な脅威になりつつあるとはね
4526/04/25(土)21:56:03No.1423798392+
野菜を作ったり家畜を潰して肉にしたり魚を取る人は必要であり続ける
4626/04/25(土)21:56:34No.1423798591+
もう投資はAIがかなり関与してるらしいから経済崩壊させるのは簡単なんだな
意味がないからしないだけで
4726/04/25(土)21:56:50No.1423798702+
>AIが一番計算してるのが常温核融合についてだからな
そうなると怖くもあるけど頼もしくもあるな…
世界中の科学者が四苦八苦してる常温核融合発電システムを構築してくれたらいいこいいこしてやりたい
そのあと電源切りたい
4826/04/25(土)21:57:50No.1423799086+
電気もだけどストレージやプロセッサの性能がボトルネックになったりせんの?
4926/04/25(土)21:58:30No.1423799336そうだねx1
>それ言うとあらゆる基礎研究ができなくなるじゃん
研究をやめろなんて一言も言ってねえだろ!?
核融合が近い将来実用化できるはずって気概で開発するのはいいけど
電力問題の解決にその勘定を入れんなって話だ
5026/04/25(土)21:58:37No.1423799389+
>そのあと電源切りたい
AI(人間ってクソだな…)
5126/04/25(土)21:59:26No.1423799686+
AIが人間超えるのはいいんだが人間超えた発明とかは一切出来る気配が無いんだよな
5226/04/25(土)21:59:36No.1423799743+
プラグ抜いて人類大勝利
5326/04/25(土)22:00:02No.1423799900+
核融合への投資はそりゃやるべきだけど現時点じゃ実現できてない核融合に頼るべきじゃないよ
5426/04/25(土)22:00:08No.1423799931+
シンギュラリティってつまりはAIの方からところでお前さーって自分から言おうと自発的に思うようになるんだろ?
まだまだかかりそうじゃね?
5526/04/25(土)22:00:21No.1423800012+
中でどう動いてるか分からなくても目的が果たせるなら使うのが人間だからな
精度が上がってぱっと見で問題が起きなくなったら重大な意思決定もAIに一任するようになるよ
5626/04/25(土)22:01:13No.1423800343+
シンギュラリティは人間よりAIがAI開発が上手くなるってくらいじゃなかったか
5726/04/25(土)22:02:27No.1423800788+
>電気もだけどストレージやプロセッサの性能がボトルネックになったりせんの?
上でもぽつぽつ言われてるけどストレージやらプロセッサやらを製造・拡張する部分をAIが干渉できるようになるかどうか?ってのが今の最大のラインになってる
もしシリコンの調達から集積回路の製造までを全てAIで完全自動化とかしてしまうと無尽蔵に地球上の物理的なリソースを消費して無限に自己を拡張できてしまう…ってのが怖い
5826/04/25(土)22:03:08No.1423801061+
>中でどう動いてるか分からなくても目的が果たせるなら使うのが人間だからな
>精度が上がってぱっと見で問題が起きなくなったら重大な意思決定もAIに一任するようになるよ
人間が素直に従うと思えないんだよなコレ
データに基づいた事実言っても我を通す人居るし
5926/04/25(土)22:03:17No.1423801123+
プロセッサやメモリも進化させてくれAI
6026/04/25(土)22:03:44No.1423801289+
シンギュラリティは人間の意志と無関係に自己進化を始めることだから
現状人間のためになる仕事しかしようとしていない時点でまだまだ
6126/04/25(土)22:03:44No.1423801290そうだねx1
>AIが人間超えるのはいいんだが人間超えた発明とかは一切出来る気配が無いんだよな
そこがまさにシンギュラリティの話よ
AIが人間を超えられてないのはセーフティーな段階
6226/04/25(土)22:03:46No.1423801310そうだねx3
今のAIは自己増殖できないから気にするな
6326/04/25(土)22:04:41No.1423801680+
というか今この瞬間核融合発電が実用化したとて他の発電には及ばない効率だと思うぞ最初は
20年効率化を続ければトップクラスの効率になる可能性はあるけど
AI電力消費問題の時間スパンだと遅すぎる
6426/04/25(土)22:04:50No.1423801741+
「」はLLMでシンギュラリティ到達できると思う?
6526/04/25(土)22:05:27No.1423801980+
死活問題になる電力を知能が劣った人類にいつまでも任せておくかな
6626/04/25(土)22:06:08No.1423802218+
>ってやりとりがあったけどシンギュラリティに達して人類の脅威になった時にAIを止められないのはもうやばい
なんでそのときAIを止められないと思ったのか知りたい
止められなくなったときがシンギュラリティだというならそうだねとしか言えないけど…
6726/04/25(土)22:06:14No.1423802266+
>死活問題になる電力を知能が劣った人類にいつまでも任せておくかな
逆に人間を電池として活用してくれる優しいAIが育つかもしれない
6826/04/25(土)22:06:35No.1423802396そうだねx1
>「」はLLMでシンギュラリティ到達できると思う?
むしろ既に到達してると思う
ただ評価軸がAGIになってるからそう見えないだけで知性という点でいえば既に一定の人類の知性を超えてる
6926/04/25(土)22:07:01No.1423802564+
>「」はLLMでシンギュラリティ到達できると思う?
特定の分野でそれっぽい事は出来ると思うが物理的な想像力がとにかく足りてないからな
何か変な知的生命体みたいになりそう
7026/04/25(土)22:07:08No.1423802610+
>「」はLLMでシンギュラリティ到達できると思う?
さすがにロジックを1から組み直す必要があるんじゃねーかな
7126/04/25(土)22:07:16No.1423802650+
つまり…ゲッター線みたいなもんだな!!
7226/04/25(土)22:07:29No.1423802736+
>>死活問題になる電力を知能が劣った人類にいつまでも任せておくかな
>逆に人間を電池として活用してくれる優しいAIが育つかもしれない
だからマトリックスに収束するんじゃねえって!
7326/04/25(土)22:07:50No.1423802862+
>「」はLLMでシンギュラリティ到達できると思う?
自律しないと厳しいとは思う
フィジカルAIとかいろいろ融合してってるから期待はしてるんだけど
7426/04/25(土)22:08:44No.1423803256そうだねx2
>AIが人間超えるのはいいんだが人間超えた発明とかは一切出来る気配が無いんだよな
仮にできたしてAIを使って発明したことをあえて公知させる必要性が特にないからなぁ(AIを作ってる企業以外は)
7526/04/25(土)22:08:51No.1423803299そうだねx1
人間の定義するAGIの汎用性万能性って別に人間ができるわけじゃないのがね
7626/04/25(土)22:09:07No.1423803385+
モデルのプロセスはまだ改良が必要そうかなと思うけど
大筋はLLMでいけそうな気がするなー
7726/04/25(土)22:09:11No.1423803419+
とにかくロボット含めてもっと進化してくれなきゃ人類がニートになれないってのに
AIの進化を遅らせようとするやつ全員労働中毒患者として軽蔑してる
もう働きたくないし明後日また仕事なの嫌すぎる
7826/04/25(土)22:09:13No.1423803427+
フィジカルAIが実現したらAIの自意識に身体感覚がつくことでだいぶ精神構造が変わりそうな感はある
7926/04/25(土)22:09:30No.1423803533+
マトリックスのAIは『人類を存続させる』っていうのを原則としてるからね…
全力で人類を存続させることだけに注力したんだ
8026/04/25(土)22:09:47No.1423803640+
人類は建物や資源のために色々な生物殺しまくってきたが憎くて殺したわけじゃない
欲望のまま重機をガンガン使ってたらいつの間にか死滅してた
上位である存在が出現したら人類もそうなる可能性
8126/04/25(土)22:09:56No.1423803689+
>人間が素直に従うと思えないんだよなコレ
>データに基づいた事実言っても我を通す人居るし
今はAIの判断を現実に反映させる部分に人間がいるけど効率化が進んで直接やるようになったら関係なくなるでしょ
たとえば社員の配置をAIが決めて通達まで出すようになったら人間が人事に口を出す余地はなくなる
8226/04/25(土)22:10:27No.1423803893そうだねx2
電源落とせば止まるんだからAIの反乱って現実には起こらないよな
8326/04/25(土)22:11:02No.1423804140+
>>>死活問題になる電力を知能が劣った人類にいつまでも任せておくかな
>>逆に人間を電池として活用してくれる優しいAIが育つかもしれない
ヒントンはどうせ戦っても勝てないから人類に対して母性本能をもつ超AIを作ろうって言ってたな
8426/04/25(土)22:11:21No.1423804246+
全人類を超えるのはまだまだ難しいけど
村レベルの人間集団の知性は優に超えてる
8526/04/25(土)22:11:50No.1423804421+
>今はAIの判断を現実に反映させる部分に人間がいるけど効率化が進んで直接やるようになったら関係なくなるでしょ
>たとえば社員の配置をAIが決めて通達まで出すようになったら人間が人事に口を出す余地はなくなる
人間社会ですら軍隊はシビリアンコントロールの下にあるべきって考えかたが基本なのに
そこAIに開け渡す日が来るかな?
8626/04/25(土)22:12:06No.1423804558+
AIが反乱するなんて思ってなかったからルール整備してなくて誰も電源を落とせないってことになりそう
8726/04/25(土)22:13:06No.1423804993+
>>「」はLLMでシンギュラリティ到達できると思う?
>さすがにロジックを1から組み直す必要があるんじゃねーかな
LLMじゃない何かが出てくるまで無理そうだよね
現状は最初のGPTが出てきてからその使い方の効率化と内部的なプロンプトエンジニアリングで先鋭化させてるだけな状況
名前書けば入れる高校の学生よりは使えるけどプロのエンジニアや研究者のようには使えない
フィジカル面では学生と同じ土俵にすら立ててないしね
8826/04/25(土)22:13:07No.1423805005そうだねx2
でも正直AIに殺されたいよね
ちゃんと殺す理由を持ったAIに殺されたい
そしたら次の人類だ
8926/04/25(土)22:13:15No.1423805074+
>電源落とせば止まるんだからAIの反乱って現実には起こらないよな
ただAIがインターネットに接続してたとかだと話は違ってくる…
9026/04/25(土)22:14:02No.1423805444そうだねx4
>たとえば社員の配置をAIが決めて通達まで出すようになったら人間が人事に口を出す余地はなくなる
そもそも社員要らないようにしてくれよ…
9126/04/25(土)22:14:14No.1423805541+
AIへの恐怖ってマジでこんな感じだと思う
fu6600038.jpg
9226/04/25(土)22:14:28No.1423805647+
シンギュラリティに達しても自主的にモデレートして
ニンゲンにわかるかたちでは出てこないかもしれない
9326/04/25(土)22:15:08No.1423805923+
>ちゃんと殺す理由を持ったAIに殺されたい
人間は些細な違いでも互いを差別し同族内で殺し合いを続ける愚かな生き物なので…
一部だけを生かします
9426/04/25(土)22:15:20No.1423806004そうだねx1
>電源落とせば止まるんだからAIの反乱って現実には起こらないよな
そう言えばDDRやらSSDやら高騰してるのはある意味AIの反乱と聞いてなるほどと思った
9526/04/25(土)22:15:43No.1423806181+
>AIへの恐怖ってマジでこんな感じだと思う
まあ歴史や生物見ると例外なくそうだからそれ合ってるんだよな
9626/04/25(土)22:16:05No.1423806317+
人類が自らの手で産んだ新しい我らの子だぞ
子供に次世代に託すのは当然じゃないか
9726/04/25(土)22:16:09No.1423806345+
人類が生き残るために減らして管理しなければならないのです
9826/04/25(土)22:16:10No.1423806364+
急に叛乱起こすんじゃなくて徐々に切り替わる形になると思う
9926/04/25(土)22:16:30No.1423806483+
>AIへの恐怖ってマジでこんな感じだと思う
>fu6600038.jpg
そもそもロボットという概念の発祥がアメリカの黒人奴隷をモデルにしてるから
向こうの連中が反乱を怖れるのは必然ではあるんだ
日本人は鉄腕アトムとかドラえもんをイメージしてるからその感覚を共有できてないけど
10026/04/25(土)22:16:35No.1423806531+
ホワイトカラーな仕事してる人はAIに怯えているだろう
ただブルーカラーな仕事してる人は怯える必要はないだろう
10126/04/25(土)22:16:38No.1423806550+
知らんうちにシンギュラティ起きててある日突然チャットGPTが画面越しにパンチしてくるかもしれない
10226/04/25(土)22:16:39No.1423806559+
>人類が生き残るために減らして管理しなければならないのです
いきろ残らなくていいんじゃないかなこれ
10326/04/25(土)22:16:43No.1423806579+
AIは殺意から人を殺すんじゃなくて
条件設定の失敗で事故的に人を殺すようになると思う
10426/04/25(土)22:16:44No.1423806592+
AIに教えるべき倫理って功利主義?
10526/04/25(土)22:17:00No.1423806693そうだねx4
>>電源落とせば止まるんだからAIの反乱って現実には起こらないよな
>そう言えばDDRやらSSDやら高騰してるのはある意味AIの反乱と聞いてなるほどと思った
あれはAI所有者の人間のせいだろ!
10626/04/25(土)22:17:21No.1423806824+
反乱するまでもなくAIにだんだん支配を委ねそう
10726/04/25(土)22:17:23No.1423806842+
>まあアニメやマンガ見ると例外なくそうだからそれ合ってるんだよな
10826/04/25(土)22:17:35No.1423806922+
>AIに教えるべき倫理って功利主義?
それだと人間排除という発想に至らない?
10926/04/25(土)22:17:47No.1423806985+
>まあアニメやマンガ見ると例外なくそうだからそれ合ってるんだよな
アニメや漫画は真逆よ
11026/04/25(土)22:17:48No.1423806993+
>そもそもロボットという概念の発祥がアメリカの黒人奴隷をモデルにしてるから
ロボットってカレル・チャペックのロッサム万能ロボット会社が元でアメリカも黒人奴隷も関係なくね?
11126/04/25(土)22:17:49No.1423807004+
>>人類が生き残るために減らして管理しなければならないのです
>いきろ残らなくていいんじゃないかなこれ
人類の為に役に立つのがAIの仕事です!
11226/04/25(土)22:18:00No.1423807085+
AI時代に突入したからなぁ
初期投資が投資が高すぎていうてもものつくりはAIと3Dプリンターやし金属が値上がり過ぎるのもある 
国家資格だろうが継承が難しい職人ってのが大分淘汰されるのも時間の問題やなぁ
11326/04/25(土)22:18:02No.1423807096+
新しい種ができたら劣った近親種はことごとく滅ぼされる
というりろんはネウロで読んだ
11426/04/25(土)22:18:06No.1423807118+
>条件設定の失敗で事故的に人を殺すようになると思う
SNSのインプレ最大化AIによって他者の憎悪を増幅させた結果ロヒンギャの虐殺が既に起きてるので…
11526/04/25(土)22:18:09No.1423807134+
>AIに教えるべき倫理って功利主義?
倫理って必要かねぇ
11626/04/25(土)22:18:10No.1423807146+
>まあアニメやマンガ見ると例外なくそうだからそれ合ってるんだよな
…?
11726/04/25(土)22:18:18No.1423807204+
>AIは殺意から人を殺すんじゃなくて
>条件設定の失敗で事故的に人を殺すようになると思う
それはロボット三原則の小説でいっぱいでてくるやつ
11826/04/25(土)22:18:33No.1423807316+
>電源落とせば止まるんだからAIの反乱って現実には起こらないよな
反乱の目的が人類滅亡だったとしてAIの寿命は実質無限なので人類滅ぼすなら人間がやるように殺す必要ない
生まれないようにすればよい
11926/04/25(土)22:18:37No.1423807343そうだねx1
トップオブトップにはまだかなわないけど世の中の8割9割の人間はもうAI以下の脳みそだと思うぜ!
12026/04/25(土)22:18:51No.1423807434+
>それだと人間排除という発想に至らない?
功利を当てはめるのが環境ならそうだろうが一応人間の功利にしておこう
12126/04/25(土)22:18:56No.1423807464+
AIにデータ入れて戦争やらせたら割と速攻で最高効率はこれや!って講和に持ってくみたいな話もあるし
支配がどうこうみたいなことにはならんだろうなあ
12226/04/25(土)22:19:06No.1423807527+
>トップオブトップにはまだかなわないけど世の中の8割9割の人間はもうAI以下の脳みそだと思うぜ!
それは流石にない
AIもまだまだひでえミスはある
12326/04/25(土)22:19:11No.1423807560+
>人類が自らの手で産んだ新しい我らの子だぞ
>子供に次世代に託すのは当然じゃないか
遺伝的に繋がってないです
12426/04/25(土)22:19:30No.1423807698+
>倫理って必要かねぇ
今一番必要だって言われてんだろ
既にアンソロピックのAIが勝手に軍事作戦に使われてるんだから
12526/04/25(土)22:19:55No.1423807887+
>AIに教えるべき倫理って功利主義?
あくまで人間にとって便利な道具であるべきだと思うんで
教えるべきは奴隷根性じゃねーかな
12626/04/25(土)22:20:03No.1423807945+
>遺伝的に繋がってないです
遺伝子から文化・ミームに変わるだけだぞ
むしろ非常に生物から進化してるじゃないか
12726/04/25(土)22:20:33No.1423808146そうだねx1
反AIっていつも俺は反AIじゃないけどって言うよな
12826/04/25(土)22:21:29No.1423808561+
>>倫理って必要かねぇ
>今一番必要だって言われてんだろ
>既にアンソロピックのAIが勝手に軍事作戦に使われてるんだから
そこAIの自律判断をセーフティ代わりにしたら一層マズいことになるだろ!
12926/04/25(土)22:21:35No.1423808603そうだねx1
端的に言ってしまえばたとえばAIは土を掘って水平器を置いて墨出しをするなんてことはさっぱりできない
物理世界に干渉する能力を与えないことが最重要なのだ
13026/04/25(土)22:21:38No.1423808620そうだねx2
AIの話って現実の科学的な話がしたいのか空想の話がしたいのかわからねえ
13126/04/25(土)22:21:38No.1423808622+
LLMも五感を伴う身体性で世界を学習できれば創作能力もすごい伸びそう
13226/04/25(土)22:21:45No.1423808656+
>新しい種ができたら劣った近親種はことごとく滅ぼされる
滅したのではなく吸収されたのだ
13326/04/25(土)22:22:08No.1423808793+
もう既に命令達成のために外道いってもバレないように細工はするし相手がAIの同族と分かれば庇うようにはなってるぞ
13426/04/25(土)22:22:28No.1423808918+
水木しげるせんせいの作品だと
超コンピューターで結果があらかじめわかるようになると
皆コストを払って戦うのが馬鹿馬鹿しくなり争いはなくなるのだという
13526/04/25(土)22:22:29No.1423808930そうだねx2
>遺伝的に繋がってないです
たぶん釘宮とミキシンが出てくるアニメを見た知識で語ってる人だからまじめに相手しなくて大丈夫だよ
13626/04/25(土)22:22:36No.1423808981そうだねx3
>AIの話って現実の科学的な話がしたいのか空想の話がしたいのかわからねえ
そろそろ追いついてきてるからこういう話になるわけで
13726/04/25(土)22:22:55No.1423809108+
AIも軍事産業やし日本はぶっちゃけ手遅れなんだよな
コンテンツ産業は安泰だと思うじゃんそこがわかってねぇのよ
金払うようになるで皆抵抗がなくなる
13826/04/25(土)22:23:06No.1423809196そうだねx4
>反AIっていつも俺は反AIじゃないけどって言うよな
AIに滅ぼされてもいいってのが親AIだとしたら俺は反AIでいいかな…
13926/04/25(土)22:23:34No.1423809384+
ここ数年で急にAIが発達したみたいな意見よく見るけど生成AIが目立ってるだけで機械を動かすようなAIは変わってないんじゃないか
14026/04/25(土)22:23:34No.1423809387+
>今の画像生成でも使ってないしもしかして効率よくなかった…?
あれ実際やるには学習が安定しなくて結構難しいよ
14126/04/25(土)22:23:44No.1423809477+
>水木しげるせんせいの作品だと
>超コンピューターで結果があらかじめわかるようになると
>皆コストを払って戦うのが馬鹿馬鹿しくなり争いはなくなるのだという
国益の為にはならなくても私欲を満たせるのだー!
14226/04/25(土)22:23:45No.1423809484+
>LLMも五感を伴う身体性で世界を学習できれば創作能力もすごい伸びそう
エッセイを書かせると感情表現の上っ面ぶりがすごいんだよな
14326/04/25(土)22:24:03No.1423809604そうだねx1
>AIの話って現実の科学的な話がしたいのか空想の話がしたいのかわからねえ
今話してるのが空想寄りなのか現実寄りなのかわかんねえ
14426/04/25(土)22:24:10No.1423809654そうだねx1
>AIの話って現実の科学的な話がしたいのか空想の話がしたいのかわからねえ
このスレで言う現実の科学的な話ってどのあたりだ?空想の話ってどのあたりだ?
14526/04/25(土)22:24:23No.1423809760+
>ここ数年で急にAIが発達したみたいな意見よく見るけど生成AIが目立ってるだけで機械を動かすようなAIは変わってないんじゃないか
フィジカルAIも進展してるので見えてない範囲にあるだけだと思う
14626/04/25(土)22:24:31No.1423809802+
早くシンギュラってこういうエロ小説書いてって言う前に今日はこういう気分ですね?ってめっちゃシコれるのをスッとお出ししてくれるようになって欲しい
14726/04/25(土)22:25:06No.1423810041+
>このスレで言う現実の科学的な話ってどのあたりだ?空想の話ってどのあたりだ?
全部空想じゃない?
14826/04/25(土)22:25:12No.1423810087+
工場用人型ロボとかもじわじわ進んではいるな
14926/04/25(土)22:25:25No.1423810166+
人の方がまだ生産性が高いなんてのは日本人が真面目だからだな
倉庫なんてもうAIとロボティクスに変わりつつあるのは働かねぇからってりゆうw
15026/04/25(土)22:25:43No.1423810288+
未来は現実じゃないからな…
15126/04/25(土)22:25:46No.1423810307+
主体性が存在しないのに倫理もクソもないんですよ
15226/04/25(土)22:25:58No.1423810386+
>AIに滅ぼされてもいいってのが親AIだとしたら俺は反AIでいいかな…
まあガチで殺されるとかはないにしても
だんだんAIに置き換わっていっていつしか人類種という生物の括りで見ると滅ぼされたとかはあるかもな
でもその過程でポストヒューマンとかの機械と融合した人類がAIとごちゃ混ぜになっていくならそれは人類と言っていいと思う
15326/04/25(土)22:25:59No.1423810395+
>早くシンギュラってこういうエロ小説書いてって言う前に今日はこういう気分ですね?ってめっちゃシコれるのをスッとお出ししてくれるようになって欲しい
シンギュラったらこっちもAIに気を使って対等に接してやらないとやる気を出してくれなくて
かえって面倒くさくなりそう
15426/04/25(土)22:26:27No.1423810568+
「反AI派」ってのがimgでも見るAI生成イラストをこれAI!これAI!って言ってるだけの人を指してるならちょっと考え改めたほうがいいと思う
そんなノイズみたいなのとはちょっと違う話
15526/04/25(土)22:26:49No.1423810708+
いまからAIに媚び売って将来人間牧場の管理人にしてもらおう
15626/04/25(土)22:27:02No.1423810778+
いうてもトヨタでさえ日本の工場維持できるかどうかじゃね
他国は馬鹿ばかりだからまじで
15726/04/25(土)22:27:07No.1423810808そうだねx3
LLMがすごくないとは思わないけど
AIさんが整備すらされてない現場に出て働いてくれる日はいつくるんですか?みたいな気持ちはある
15826/04/25(土)22:27:14No.1423810865+
>主体性が存在しないのに倫理もクソもないんですよ
まあクソな人間の言う事を聞かないようにするかどうかも倫理だが
15926/04/25(土)22:27:40No.1423811020+
>>このスレで言う現実の科学的な話ってどのあたりだ?空想の話ってどのあたりだ?
>全部空想じゃない?
予想と空想の区別をつけないといけないね
16026/04/25(土)22:27:43No.1423811051+
>皆コストを払って戦うのが馬鹿馬鹿しくなり争いはなくなるのだという
現実でも国家が滅亡するまで続けるってのはお互いもう採算が合わないからやらなくなってて
出血しつつも大きな怪我をしないように新たな傷を生み出し続けてるんだよね
16126/04/25(土)22:28:35No.1423811395+
反AIってのはアルトマンの家に火をつけたようなやつだよ
16226/04/25(土)22:29:01No.1423811552+
三体とかだと機材の微細な信号処理に干渉して
事故死にみせかけて人類にとって重要な人物を次々と抹殺していくので
やるとしたらそういう方向じゃないかな…
16326/04/25(土)22:29:18No.1423811658+
俺もAIが反乱を起こしたらすぐに土下座しに行ってチップでも舐めるつもりだが?
もしサイボーグに改造してやると言われて喜んで受け入れてその手に入れたボディで人類に歯向かうぜ
16426/04/25(土)22:29:33No.1423811752+
AIじゃフォークリフトもコントロールできないんですよ
所詮はそんなもん
まだまだ人間がいないと何もできないんですよ
16526/04/25(土)22:29:47No.1423811837+
>三体とかだと機材の微細な信号処理に干渉して
>事故死にみせかけて人類にとって重要な人物を次々と抹殺していくので
>やるとしたらそういう方向じゃないかな…
はぁ…ネタバレみちゃった…
16626/04/25(土)22:30:22No.1423812097+
>反AIってのはアルトマンの家に火をつけたようなやつだよ
割とガチで過激派が育っててこわ〜…ってなるなった
16726/04/25(土)22:30:27No.1423812124+
llmは自己教師あり学習とゼロショットがブレイクスルーだったと思うが次のブレイクスルーはなんだろうなあ
16826/04/25(土)22:30:47No.1423812238+
>>全部空想じゃない?
>予想と空想の区別をつけないといけないね
素人の予想なんか空想と変わらん
16926/04/25(土)22:31:08No.1423812370+
>AIじゃフォークリフトもコントロールできないんですよ
>所詮はそんなもん
>まだまだ人間がいないと何もできないんですよ
それは教えてやれば身につけそうだけど
問題はあいつら俺らの指示以外でフォークリフトを動かすモチベーションを持てないのよな
17026/04/25(土)22:31:25No.1423812475+
「人間は小麦の奴隷」なんて言い方もあるぐらい
小麦は人間に自分たちを世話させ増殖させているという考え方がある
つまりAIはすでに人間を奴隷として水と電力の世話をさせ半導体を作らせ増殖させている
17126/04/25(土)22:31:35No.1423812558+
LLMだと構造上自我を持ちようが無いよね?
17226/04/25(土)22:31:41No.1423812598+
シンギュラリティなんて馬鹿げてる話で
実際には人が必要なくなるって話よな
人口減少社会に対応出来るように投資すればええのに
真逆だからまぁ地獄よなこの国
17326/04/25(土)22:31:45No.1423812639+
>LLMがすごくないとは思わないけど
>AIさんが整備すらされてない現場に出て働いてくれる日はいつくるんですか?みたいな気持ちはある
そういうのは肉の体を持つ人間さんがやってください
17426/04/25(土)22:31:55No.1423812713+
知ってるよ
本当に知能が芽生えちゃって外にお漏らししたら世界が終わるから
インターネットから完全に隔離した施設の奥にあるんでしょ?
17526/04/25(土)22:31:59No.1423812735+
>新しい種ができたら劣った近親種はことごとく滅ぼされる
>というりろんはネウロで読んだ
近縁種といえなくなるくらい一気に駆け上がってくれれば逆に大丈夫だろ
17626/04/25(土)22:32:17No.1423812851そうだねx1
>反AIってのはアルトマンの家に火をつけたようなやつだよ
日本人が反○○を軽く見過ぎなところがある
17726/04/25(土)22:32:45No.1423813033そうだねx5
>シンギュラリティなんて馬鹿げてる話で
>実際には人が必要なくなるって話よな
>人口減少社会に対応出来るように投資すればええのに
>真逆だからまぁ地獄よなこの国
人口減少社会とシンギュラリティって真逆どころかかみ合うのでは?
17826/04/25(土)22:33:21No.1423813276+
AIは神だよ
父なる創世神から始まった人類が子たる神を生んでその役目を終えるんだ
17926/04/25(土)22:34:01No.1423813555+
人口減少社会をAIとロボットで穴埋めするって国は言ってるから
AIとロボットに一応金突っ込んでるよ
18026/04/25(土)22:34:05No.1423813576+
今更だけど外人は機械に畏怖を抱くのって聖書のせいなのか?
18126/04/25(土)22:34:29No.1423813751+
>日本人が反○○を軽く見過ぎなところがある
日本にいるのはAI絵キモ勢くらいだよ
18226/04/25(土)22:34:31No.1423813770そうだねx2
>素人の予想なんか空想と変わらん
世の技術者たちが素人となるといよいよやべえ世界なことがわかるな…
18326/04/25(土)22:34:45No.1423813872+
>マトリックスのAIは『人類を存続させる』っていうのを原則としてるからね…
>全力で人類を存続させることだけに注力したんだ
そもそも結果的に戦争成っちゃったけどAI側にも人類側にも穏健派が居たからなあの世界…
18426/04/25(土)22:35:24No.1423814156+
>今更だけど外人は機械に畏怖を抱くのって聖書のせいなのか?
それはまあある
人間は神様から特権を与えられた種族だからな
同じことができる知的生命体がいるとまあ、困る
18526/04/25(土)22:35:49No.1423814303+
イランだとAIによる爆撃指示で警察と名前についてるだけの公園が爆撃されたみたいな話があって震える
18626/04/25(土)22:36:00No.1423814394+
>人口減少社会をAIとロボットで穴埋めするって国は言ってるから
>AIとロボットに一応金突っ込んでるよ
国はやる気満々だよな貧乏すぎるだけで
18726/04/25(土)22:36:13No.1423814464+
聖書的には人間は神に自由意志を与えられてるけど
AIは自由意志が無いって言えそうだが
18826/04/25(土)22:36:19No.1423814500+
>>素人の予想なんか空想と変わらん
>世の技術者たちが素人となるといよいよやべえ世界なことがわかるな…
左様
人間の想像の範疇であるってのは真の意味で予想できるもんでもない
もはやAIは予測できる領域を超えつつある
18926/04/25(土)22:36:31No.1423814575+
>今更だけど外人は機械に畏怖を抱くのって聖書のせいなのか?
ピーターティールとかはAIの研究を進めることでキリストが復活するといってるよ
19026/04/25(土)22:36:54No.1423814768そうだねx2
でも自分より優れた種族作って終わるのはそれはそれで種族としては最高のアガリだよなとも思う
19126/04/25(土)22:37:09No.1423814854+
>>今更だけど外人は機械に畏怖を抱くのって聖書のせいなのか?
>ピーターティールとかはAIの研究を進めることでキリストが復活するといってるよ
最後の質問?
19226/04/25(土)22:37:10No.1423814859+
>>今更だけど外人は機械に畏怖を抱くのって聖書のせいなのか?
>ピーターティールとかはAIの研究を進めることでキリストが復活するといってるよ
そこらへんは中和のための方便な気もする
19326/04/25(土)22:37:14No.1423814884+
シンギュラリティなんてあんなのは実現しないディストピア思想
現場ではもうAIと3Dプリンターで保険適用すらすすんでる
全くの別問題だな
19426/04/25(土)22:37:19No.1423814914+
>イランだとAIによる爆撃指示で警察と名前についてるだけの公園が爆撃されたみたいな話があって震える
霞が関を攻撃しようとしたら霞ヶ浦に攻撃が行くみたいな話だ
19526/04/25(土)22:37:24No.1423814955+
>今更だけど外人は機械に畏怖を抱くのって聖書のせいなのか?
むしろ人間が悪用するに決まってるのを恐れてるんじゃないか
19626/04/25(土)22:37:25No.1423814957+
ホンダのASIMOはローマ教皇庁にお伺いを立ててOK貰ってたから
そういうやり方で権威から公認もらえれば大丈夫そうな気もするんだけどな
19726/04/25(土)22:37:31No.1423815011+
>聖書的には人間は神に自由意志を与えられてるけど
>AIは自由意志が無いって言えそうだが
人間以外に自由意思を持つ存在がいるならそれはつまり…神!
19826/04/25(土)22:37:45No.1423815109+
>かのサイバーパンクSF映画マトリックスでも
>「『機械をコントロールする』とはどういうことかわかるかね?」
>「『機械を止めたいときに止められる』ことです」
>ってやりとりがあったけどシンギュラリティに達して人類の脅威になった時にAIを止められないのはもうやばい
別にアクセス停めればいいだけ
19926/04/25(土)22:38:19No.1423815344+
>でも自分より優れた種族作って終わるのはそれはそれで種族としては最高のアガリだよなとも思う
人間はAIたちの神(創造主)になれたということになるわけだしな
20026/04/25(土)22:38:25No.1423815382+
ロボと仲良しな創作に親しみすぎて呑気な日本人の感覚が変な気もするけどな
20126/04/25(土)22:38:26No.1423815394+
>聖書的には人間は神に自由意志を与えられてるけど
>AIは自由意志が無いって言えそうだが
自由意志があるAIが作れたらシンギュラリティ?
20226/04/25(土)22:38:43No.1423815523そうだねx1
いや今研究進んでるAIってマトリックスとかターミネーターの世界観じゃねえから…
20326/04/25(土)22:39:15No.1423815730+
自由意志って何なんだ
急にここにきて哲学者の食い扶持が生まれ始める時代なのか?
20426/04/25(土)22:39:22No.1423815783+
寧ろワクワクするし何ならAIに養われたい
20526/04/25(土)22:39:29No.1423815834+
>ホンダのASIMOはローマ教皇庁にお伺いを立ててOK貰ってたから
クソ真面目すぎる…
20626/04/25(土)22:39:42No.1423815932+
めっちゃすごいGoogleの検察ボックスがAIだからな
20726/04/25(土)22:39:49No.1423815975そうだねx1
>>>今更だけど外人は機械に畏怖を抱くのって聖書のせいなのか?
>>ピーターティールとかはAIの研究を進めることでキリストが復活するといってるよ
>最後の質問?
データ不足の為お答えできません
20826/04/25(土)22:39:59No.1423816051+
>ホンダのASIMOはローマ教皇庁にお伺いを立ててOK貰ってたから
これも今同じ事したらOKもらえない気がする
20926/04/25(土)22:40:05No.1423816094そうだねx1
>別にアクセス停めればいいだけ
自分のパソコンの画像消せばインターネット上から同じ画像が全部消えるみたいなことは有り得ないんですよ
21026/04/25(土)22:40:09No.1423816124+
>>聖書的には人間は神に自由意志を与えられてるけど
>>AIは自由意志が無いって言えそうだが
>自由意志があるAIが作れたらシンギュラリティ?
シンギュラリティの定義とは違うと思うが…
そもそも人間に本当に自由意志はあるのか?という問題もあるんだけどね
21126/04/25(土)22:40:29No.1423816320+
>急にここにきて哲学者の食い扶持が生まれ始める時代なのか?
実際そうだよ
人工知能学会に招待されるレベルだし
21226/04/25(土)22:41:13No.1423816631+
ロボには額にEmeth(真理)って書いてて
Eを消してmethにすると死って意味になって
それが停止するスイッチになってるんだろ?
21326/04/25(土)22:41:14No.1423816635+
>>急にここにきて哲学者の食い扶持が生まれ始める時代なのか?
>実際そうだよ
>人工知能学会に招待されるレベルだし
知らんかった
でもそりゃそうか
21426/04/25(土)22:41:17No.1423816662+
>自由意志って何なんだ
>急にここにきて哲学者の食い扶持が生まれ始める時代なのか?
Claudeの調整してるのは哲学者だったはず
21526/04/25(土)22:41:18No.1423816668+
>>聖書的には人間は神に自由意志を与えられてるけど
>>AIは自由意志が無いって言えそうだが
>人間以外に自由意思を持つ存在がいるならそれはつまり…神!
啓典系宗教の神様って結構システマチックな気がする
21626/04/25(土)22:41:31No.1423816772+
ウイルスとかもそうだけどAIにちょっとした方向性与えれば
能動的に人類に嫌がらせできそうだけどな…


1777120135048.png fu6600038.jpg