あーあれね
連立方程式とかいうやつでしょわかるわかる

そこから始めてくれるの普通に誠実で初心者向けのやつだから真面目に受講したほうがいいよ

AIモデルってつまるところ超巨大な線形代数だし
学習もパラメータ求めるために微分で極小値を求めてるだけ
大体高校レベルの数学

>大体高校レベルの数学
なるほど俺は高校数学についていけなかったからスレ画が理解できないんだな…

>高校数学が理解できないってよほど貧乏だったのか障碍者なのか
どしたん？話きこか？

>連立方程式とかいうやつでしょわかるわかる

>AIモデルってつまるところ超巨大な線形代数だし

スレ「」みたいにまじめに勉強するのは偉いと思う

人間が簡単に解けるのは線形問題だけだからこれしか道具がないらしいな

>しんどい
>今日は勾配降下法というのをやらせてもらえた
でも勾配降下法まで行ったらもうほとんど基本は完成してね？
1層の勾配降下法だとしたらあとは複数の層の誤差逆伝搬法くらい？

寝る前にこういう動画見ると寝落ちできるよ
https://youtu.be/tc8RTtwvd5U?si=OBPmPBHfkQPzFxVU

だいたい高校数学でAIが動いてるのなんか不思議な感じがする

>だいたい高校数学でAIが動いてるのなんか不思議な感じがする
0と1の足し算引き算だけできりゃAIは動かせるんだぜ！

とうかネットで高校数学がバカにされすぎなのでは？
こんなのなんの役に立つんだみたいな意見をよく見る

非線形性が重要なので線形代数ではないんだなこれが

>>高校数学が理解できないってよほど貧乏だったのか障碍者なのか
>どしたん？話きこか？
理系コース行ったけど数三数Cの難しさに挫折した学生も多いと思う
俺だけど

>とうかネットで高校数学がバカにされすぎなのでは？
>こんなのなんの役に立つんだみたいな意見をよく見る
プログラム書くと割と必須なの多いんだよね
かなり基本の三角関数辺りから微積や行列も

>だいたい高校数学でAIが動いてるのなんか不思議な感じがする
大学数学レベルのやつは量子コンピュータの方になるんじゃないか

ちゃんと勉強しててえらい！

高校数学振り返ってみるとめっちゃ楽しい

>理系コース行ったけど数三数Cの難しさに挫折した学生も多いと思う
>俺だけど
元レスのやつは単に他人を煽りたいだけのバカだからあんま木にしなくていいと思うよ

最近は数Cが消えたり復活したりしてるらしくて笑う

ベイズ推定とか今理解しないまま使ってるから
大学のときにちゃんと勉強しておきゃ良かったなとは思う

>ベイズ推定とか今理解しないまま使ってるから
どんなことに使ってる？

高校数学さえ分かれば大体分かる…というわけでもなく普通に大学レベルが必要なAI

木よりランダムフォレストだよな

高校数学と言うけれどもその範疇で紹介しきれないバリエーションや活用方法が実測に沿った統計学の手法で形作られてるので立派に大学や院の分野だよ

>こんなのなんの役に立つんだみたいな意見をよく見る
数学が苦手な原因の一つに何に使うんだよこれってのが結構大きいと思う
実際の社会でどう使われているかってのも教えてもらってたら学習態度も変わってたと思う
理解出来たかはさておきとしてね…

python使って株価予想やって全然当たんねーなってなるあたりは楽しかった

統計学が事前に思ってる以上に数学

>高校数学が理解できないってよほど貧乏だったのか障碍者なのか
時分のコンプレックス相手に押し付けてる感じ…
そもそも貧乏も障害も関係ないじゃん…

ゴールが見えない型のための型の稽古の連続だとまあお辛いよね……

高校数学が十分高度だって考え方もある
日常生活で必要になることがないぐらいには高度だからこそ
>こんなのなんの役に立つんだみたいな意見をよく見る
ってことになる

三角関数を覚えるには弾幕シューティングをやればいい

強化学習学んでたらマルコフ決定過程でかなり積んだ
理屈の理解の方が先にできればよかったが

微積は物理と絡めると世界の真理を見た気分になれるよ
なれた
そんなことはなかった

>三角関数を覚えるには弾幕シューティングをやればいい
三角関数以外の負荷がデカすぎない？

理屈の勉強するよりyoloとかscikit-learnとかの動かし方覚えた方が絶対有意義だろ

少なくとも確率統計と極限と…ってなるから微積が必須なのかな…あと上の方で出てた線形代数

Excelで微分積分がもう少しカジュアルにできれば初心者にも身近になるのに

そもそも数学英語歴史あたりって中高レベルでも極めたら大学レベルじゃね

>理屈の勉強するよりyoloとかscikit-learnとかの動かし方覚えた方が絶対有意義だろ
プログラム組むなら絶対そうだろうな…

>理屈の勉強するよりyoloとかscikit-learnとかの動かし方覚えた方が絶対有意義だろ
理屈を勉強する人がその辺を使えないことは基本的にないと思う

大学数学が数学の原初を学んでるだけでくっそ難しいだけ

クソデカパラメータがあればどんな曲面も作れる
そりゃどんな問題も解けるだろうと思いきやそうでもない

生成AIなり巨大なニューラルネットを使って実務に役立てたいとかだと
勾配法とかよりはCPU・GPU・メモリあたりの計算機科学とか計算機をぶん回すためのインフラとかプログラミングを勉強した方が良いんじゃねえかな…って思う
もちろん将来的にちゃんと研究する方向にいく学生には微積線形統計最適化情報学を身に着けて欲しいけど

>大学数学が数学の原初を学んでるだけでくっそ難しいだけ
ただの理論研究として数学やると大学でやるのが基礎中の基礎だってんだもんな…
高校までにやるのは基礎数学学ぶ為に必要な最低限の法則学んでるだけだって聞いて投げた

そもそも無理だよ！
人類のこれまでの数学史を超倍速で追体験学習させるのがさぁ
なので俺は雰囲気で計算尺買って遊ぶ

道具として使うなら学習過程の強弱決める係数の値を
このモデルに対してならどれぐらいが適切かなってのを感覚的に経験していくだけなんだがなあ…

>そもそも数学英語歴史あたりって中高レベルでも極めたら大学レベルじゃね
教科書とか便覧の細かい部分とかな…

計算はtesorflowに任せた上でどうやって計算させるかは自分で考えないといけないから仕組みは知っておかないと

ニューラルネットワークの勾配降下法とか誤差逆伝播とかは簡単なんだけど
それを利用してなぜ画像とか文章が出せるのかわからない

原理を学んでると今のAIすごいっちゃすごいけどやっぱこの路線じゃシンギュラリティとかは無理じゃねって気持ちになる
それとも人間も思ったよりシンプルな原理で動いてて複雑度だけの問題なんだろうか…

y=ax+b！
aが変化の割合傾きでｂが切片！

そこらへんはAIで何か作った時に一発でうまく行くんならいらないんだけど
うまく行かなかった時に必要になる

途中で「誤差の2乗とるのなんで？プラス誤差とマイナス誤差を同じにするなら絶対値じゃダメなの」って講師に聞いたら
最後まで聞け今から誤差最小値を求める過程で微分するするんだが2乗してるから2次関数は最小値で導関数が0になる性質を利用できるあと絶対値はx=0が微分不能点だからその意味でも無理
って丁寧に説明してくれたのは嬉しかった

>原理を学んでると今のAIすごいっちゃすごいけどやっぱこの路線じゃシンギュラリティとかは無理じゃねって気持ちになる
>それとも人間も思ったよりシンプルな原理で動いてて複雑度だけの問題なんだろうか…
所詮なんとなーくで収束してく値が産出されるタイミングを自分で決めたり
たまたま確率で出したりするだけだもんな…ってなる
生物的な知能はここにはないとわかる

データの取扱がすべて

>原理を学んでると今のAIすごいっちゃすごいけどやっぱこの路線じゃシンギュラリティとかは無理じゃねって気持ちになる
>それとも人間も思ったよりシンプルな原理で動いてて複雑度だけの問題なんだろうか…
なんかリソース費やせばまだまだ伸びるから力技で強いAIもどきも作れるんじゃねって感じだね

>y=ax+b！
>aが変化の割合傾きでｂが切片！
いちからか？
ちゅういちからせつめいしないとだめか？

ニューラルネット自体が人間の脳みその模倣から始まってるからもっと精度の高い模倣が出来たら人間の脳みそを超えるくらいできるんじゃない？

>それとも人間も思ったよりシンプルな原理で動いてて複雑度だけの問題なんだろうか…
生物が強化学習以上のことをやっているとは思えない

>原理を学んでると今のAIすごいっちゃすごいけどやっぱこの路線じゃシンギュラリティとかは無理じゃねって気持ちになる
>それとも人間も思ったよりシンプルな原理で動いてて複雑度だけの問題なんだろうか…
少なくとも言語はパワーで押し通したら何かいい感じになってきたし理論的には意外と行けるんじゃない？
五感特に触覚の再現がダルすぎるだけで

>ニューラルネットワークの勾配降下法とか誤差逆伝播とかは簡単なんだけど
>それを利用してなぜ画像とか文章が出せるのかわからない
mnistレベルの凄い単純なモデルを例に実際に処理を追ってみよう
convolutionの動作モデルは最近動画で分かりやすいのがあるからそれを見よう

役に立つ分野があるから高度な数学を学んでるってのはあるんだが
そこを全く理解出来ないから俺は文系だわってなったやつは多分一定数いる

その意欲は尊敬するけどAIの学習方法新たに提唱するとかじゃない限りは結局既存の学習法の何を選択するかとどんな入力与えるかのトライアンドエラーになりがち

感や感覚の部分を確率で再現するしかねえ…ってのもな

昔は理論から勉強して論文読んで自分でアーキテクチャ組んでkaggleやってたけどもう今は誰かの開発したアーキテクチャ使うだけのおじさんになっちまったよ

今主流のディープラーニング自体がもう何十年も前から発想としてはあって今ようやくマシンパワーの方が追いついてきて流行ってる面もあるからなあ

>>それとも人間も思ったよりシンプルな原理で動いてて複雑度だけの問題なんだろうか…
>生物が強化学習以上のことをやっているとは思えない
生まれた瞬間から歩いたり泳いだりできるのは初期値を神引きしすぎてる

>って丁寧に説明してくれたのは嬉しかった
あとは単純な問題として100の誤差1個と10の誤差10個を等価として見るんかってところもあるから…

こんなことに計算力というか電力を使いまくってて先はあるんだろうか…とかふと思ったりする
まあ人間の活動ってだいたいそんなもんか

遺伝子と同等の学習結果を出せるかって研究してるところあるんかな

>>って丁寧に説明してくれたのは嬉しかった
>あとは単純な問題として100の誤差1個と10の誤差10個を等価として見るんかってところもあるから…
でも勾配降下法だと両者の修正量は同じくらいじゃない？

>こんなことに計算力というか電力を使いまくってて先はあるんだろうか…とかふと思ったりする
>まあ人間の活動ってだいたいそんなもんか
暗号通貨で草コインに電力無駄遣いするよりはたぶん役に立ってる

>こんなことに計算力というか電力を使いまくってて先はあるんだろうか…とかふと思ったりする
>まあ人間の活動ってだいたいそんなもんか
気象とか宇宙の計算に使うならまだしも
マイニングはそういうのからほど遠い…

>途中で「誤差の2乗とるのなんで？プラス誤差とマイナス誤差を同じにするなら絶対値じゃダメなの」って講師に聞いたら
>最後まで聞け今から誤差最小値を求める過程で微分するするんだが2乗してるから2次関数は最小値で導関数が0になる性質を利用できるあと絶対値はx=0が微分不能点だからその意味でも無理
いや絶対値で誤差をとるっていうやり方もあってそれもそれで御利益があって全然無意味じゃないんだけどね
サポートベクトルとかまさに絶対値誤差の御利益を利用した分類器だしニューラルネットの誤差関数も一時期はほぼ（＋側だけの）絶対値誤差を使ってた
講師の言う通りまず二乗誤差のほうが扱いが楽だし応用範囲も広いからそっちを最初にやるべきだけど

>こんなことに計算力というか電力を使いまくってて先はあるんだろうか…とかふと思ったりする
>まあ人間の活動ってだいたいそんなもんか
どのみち地表の資源枯渇って意味で今の文明が衰退したら次はねぇから行き着くところまで行くべき

https://x.com/unitreerobotics/status/1871099631075287307?s=46&t=lf3JBjK-STJDJJf0exbQHQ
シンギュらるかどうかはわからんけど
強化学習でロボティクスがここまで進歩するなら
世界は決定的に変わるよ

とはいえほんのちょっとでも数学史と一緒に解説するだけで相当数の生徒が脱落せずに済む気はするのだが…

貴重な水と燃料で作り出した電力を使い半導体を消耗しながらエロ画像を作ることで精液を生み出すんだ

>>こんなことに計算力というか電力を使いまくってて先はあるんだろうか…とかふと思ったりする
>>まあ人間の活動ってだいたいそんなもんか
>暗号通貨で草コインに電力無駄遣いするよりはたぶん役に立ってる
資源カツカツ問題が表面化してきたら規制されると思う暗号通貨

>>>それとも人間も思ったよりシンプルな原理で動いてて複雑度だけの問題なんだろうか…
>>生物が強化学習以上のことをやっているとは思えない
>生まれた瞬間から歩いたり泳いだりできるのは初期値を神引きしすぎてる
生物の歴史を考えればいい乱数引けるくらいの試行回数重ねてても不思議じゃない気がする
そこに規模がクソデカいライフゲームの自己複製withちょっとバグ入りが合わさってる感じ

最小二乗法は実際に手で計算すると確かに二乗した方が絶対値取るより楽だな…と思いました

35越えて他業種からIT系入ったけど数学好きなのでもっと早く入れば良かったとなった

AIって単語は結局メディアが使いたいだけだし
とりあえず言っとけば食いつくから強化学習系の研究者も結構積極的に使ったって言ってた

if文があればAIだぞ

eがなんか沢山出てた気がする昔のAI解説本

数学から学び直そうと思い立つだけで偉い

人工無能なんて言葉もあったなとふと思い出した

>eがなんか沢山出てた気がする昔のAI解説本
統計力学がね…

>こんなことに計算力というか電力を使いまくってて先はあるんだろうか…とかふと思ったりする
>まあ人間の活動ってだいたいそんなもんか
自動運転の実用化まで行って車の数減らせたら節約に転じられるとは思うんだが…

最近はAGIがバズワードっぽくてよく見かけるようになった
特定分野だけでそんなレベルじゃねえだろ……

AIの画像生成だけでもなかろうに何でその分野…

>最近はAGIがバズワードっぽくてよく見かけるようになった
>特定分野だけでそんなレベルじゃねえだろ……
ハゲ治療じゃないのAGIって

電力消費に関しちゃ専用チップや量子化でぐっと減らせられるよ
他ならぬ人間の脳が低電力でハイパフォーマンス出してるんだから

>ハゲ治療じゃないのAGIって
なんだしなんだしAGC

俺はグラボで暖取ってるついでにエロ画像を生成してるだけだし

>電力消費に関しちゃ専用チップや量子化でぐっと減らせられるよ
>他ならぬ人間の脳が低電力でハイパフォーマンス出してるんだから
初期の車のエンジンが効率も排気も今から見ればひどかったようなものだと思いたいところではある

>電力消費に関しちゃ専用チップや量子化でぐっと減らせられるよ
MSはFPGAでCatapaltとかGoogleはTPUとかやりだす時代にまた戻すか
GPT4専用チップだ

Googleが言ってたすごい量子コンピュータでなんとかならないですかね
今のAI理論そのまま量子コンピュータには持ってけないけど

画像認識で自動運転とか言われてる時にいろんな人たちが専用サーバーとか専用ボードとか考えたけど全部GPUに蹴散らされた後の時代が今だよ

そっち系使う分野の職じゃないからもう数学自体怪しいぜ！

ソフトの側が急激に変化するから
専用ハードに落とし込むのは相当先

FPGAに悲しい現在…

CUDAの先見の明がありすぎる

>CUDAの先見の明がありすぎる
ゲームライブラリのはずだったのでは…？

統計検定受けるか...

このスレ見てるだけで眠くなれるな

お前たちもう寝なさい

それなりに勉強したから統計検定1級はとれそうだけど転職とかで売りになるかねえ

>>CUDAの先見の明がありすぎる
>ゲームライブラリのはずだったのでは…？
物理演算用の計算がベクトル計算向けだったとかなんじゃない？しらんけど

>それなりに勉強したから統計検定1級はとれそうだけど転職とかで売りになるかねえ
へーすごい
今の職は何？

>原理を学んでると今のAIすごいっちゃすごいけどやっぱこの路線じゃシンギュラリティとかは無理じゃねって気持ちになる
そもそも世間で言われてるシンギュラリティは計算工学的と全然違う意味で使われてて…

実際使わなくても生きていける道はいくらでもある
使わなくても生きていける道に行った奴が声高に不要論を叫ぶ

資本主義的なアレからするとエロで釣って金稼いで本命へのリソースにするのが合理的に思える

エッチな話かと思って開いたら真面目な話だった
さっぱりわかんねえ

>資本主義的なアレからするとエロで釣って金稼いで本命へのリソースにするのが合理的に思える
ラーメンハゲの濃口らあめんみたいだな

AI自身にAIの計算効率化を行わせるとかできないんですかね？

>今の職は何？
無職！
今無限に勉強したいこと勉強してて楽しい

>AI自身にAIの計算効率化を行わせるとかできないんですかね？
精度と計算コストのトレードオフを最適化するならAutoMLって分野でやってる

>無職！
>今無限に勉強したいこと勉強してて楽しい
やりたいことがあるならいいと思うよ

最適化のためにあれこれ工夫してきた数学者達のアプローチは勉強してて本当に面白い
これが今のAI発展の礎になってると思うと熱いものがある

プロンプト指示する方は文系能力高いほうが良さそうだし
どっちの方向でも学がいるなあって

>AI自身にAIの計算効率化を行わせるとかできないんですかね？
囲碁とかはAI同士で大量に対局してパラを変えてまた対局して強くするを自動でやってる
生成AIの場合そもそもどういう生成物が良いのか人間以外に判定できるのか？

最適化問題いいよね…大学時代に出会ってたら絶対沼

>>今の職は何？
>無職！
>今無限に勉強したいこと勉強してて楽しい
モチベーションが素直にうらやましい

>プロンプト指示する方は文系能力高いほうが良さそうだし
>どっちの方向でも学がいるなあって
GPTの最新モデルってプロンプトを精緻にしないほうがいいらしいね