開放性のあるAIを求める
オープンソースAIが不可欠人工知能は公的インフラで、自由に研究・改良することが重要。
将来的に一部企業が制御するサブスクリプション型のサービスになるリスクがあるため、開放性を維持する必要がある。
AI開発の自由が未来の鍵となる。米国が世界のオープンスタンダードを守る必要がある。
AIの自由が社会の基盤
AIは仕事や教育、科学、ソフトウェア、創造性、公共サービス、国家能力といった社会インフラとして重要だ。アクセスは閉鎖的なAPIや遠隔プラットフォーム、変化する利用条件、不透明なモデレーション、モデルの入手可能性、少数企業が設定する価格に依存してはならない。
オープンソースAIの価値
オープンソースAIは、今後の技術革新や企業の方向転換、消滅に関係なく、利用可能で理解でき、再現可能、ローカルでの展開可能、経済的に成り立つ、コミュニティが統治できるものでなければならない。
米国の役割と課題
少数の閉鎖的なフロンティア研究所やプラットフォーム企業がモデルを制御すると、このインフラが認知のサブスクリプション経済に陥る危険がある。米国はこの自由を守る必要があり、実用的な姿勢はアメリカの能力とグローバルなオープンスタンダードだ。
まとめ
オープンソースAIの勝利が、社会の自由と持続可能性を保つための鍵となる。
原文の冒頭を表示（英語・3段落のみ）
If intelligence becomes something people can only rent from a few closed institutions, the public does not just lose software freedom. It loses operational freedom.
The ability to study, build, repair, deploy, audit, adapt,
teach, preserve, and run intelligence systems without asking
※ 著作権に配慮し、引用は冒頭3段落までです。続きは元記事をご覧ください。
Hacker News コメント
機械翻訳。HN の元スレッド ↗
以下は翻訳です。
開放型AIでは大規模な資本投入を促すインセンティブが無いかもしれない。寄付基金のようなものはあるかもしれないが、前線研究所が受け取るのと同レベルの資金調達にはならない。このため、開放型AIのみという形態は実現不可能かもしれない。大手プレイヤーであるOpenAIやAnthropic、Googleは優れたモデルを保持し続けるだろう。恐らくはPhotoshopとGIMPのような状態で、Photoshopが前線研究所、GIMPが開放型モデルになるだろう。GIMPは多くの画像編集ワークフローで使えるが、Photoshopはより優れている。個人的には開放型モデルの方を好むが、実現不可能だと思われる。
原文
With open-weight AI, there might not be an incentive to put large sums of capital towards training / research. There might be a donation fund of some sorts, but it certainly won't reach the level of fundraising that the frontier labs are receiving.Because of this, I think it might not be possible to have AI *only* open-weight; major players like OpenAI, Anthropic, Google will likely stay for good, with better models than open-source versions.I think it might look something like Photoshop & GIMP, with Photoshop being a frontier lab, and GIMP being the open-weight model. GIMP is decent for many different image editing workflows, but Photoshop is just better.I would definitely prefer to have an open-weight model better than frontier labs'. Though I don't think it's possible.
同意するが、現在の段階では目標は政治と切り離せない。オープンソースであることが政府や他者による制御や許可に基づくsiliconやその使用の制限を免れることを保証しないし、すでに世界中で起きている。モデルがオープンソースでも規制や経済的インセンティブは解決されない。これは数行で要約できる問題ではない。AIは文明社会の基盤であり、文明社会的な解決策を必要とする。ただし、ソースコードの話ではない。
原文
I agree with sentiment and mission, but the goal is inseparable from politics at this point.Being Open Source (tm) will not protect you from the government/others imposing controls on your silicon or what it is allowed to do, which is already happening around the world.Even having the models be open source won't fix the regulation or economic incentives. Which is not something you can compress into a couple of paragraphs.AI is civilizational infrastructure and it needs civilizational solutions. Not just source.
どこにAnthropicやOpenAIが勝つと私たちは行き着くのか。我々の「事実」は彼らのAI超企業に依存するのか。ソフトウェアか仕事か。それも可能だ。これらの会社がみんなのボスになり、誰が何をしていいか、考えるか、言うか、するか、信じるかなどを決めるようになるかもしれない。大手テックがその罠を仕掛ける前に、私たちは開放型モデルに資源を割り当てて支えなければならない。
原文
Where does Anthropic or OpenAI winning leave us?Dependents of an AI-megacorp for our "facts"? Our software? Our work?It's possible these companies will become everyone's boss, and will dictate to everyone what everyone is allowed to work on, think, say, do, believe, etc.Before Big Tech springs that trap, we must support and divert resources to open models.
私は長い間、ボランティアのマシンを使用した分散型モデル訓練システムを検討してきました。ただし、通信速度が不可能に近く、また未信頼ノードからのデータ汚染も問題です。ほぼ解決したこの問題は、腐敗したデータに従って廃棄する必要のない自己回復チェックポイントロールバックシステムです。しかし、私はただ一人の人物で、このプロジェクトを実現するための無限の資金がありません。このプロジェクトは小さくありません。全てのGPUの総合力が、分散方式で効率的に活用できれば、前進することができます。少なくともアクセスできる環境に比べれば、決してないよりはマシです。
原文
I've been contemplating a decentralized model training system for some time using volunteer machines that we all contribute. But, it is astronomically difficult. The communication speeds are untenable.And, there is the issue of data poisoning from untrusted nodes. I've almost cracked that last issue with a self-healing checkpointed rollback system that doesn't have to throw out anything that follows the corrupt datum.But, I'm just one person with an idea and I don't have infinite funds to make this happen. This isn't a small project.Maybe there would be interest in something like this, now that entire frontier labs are being banned from making further progress.The total power of all GPUs on the planet dwarf their capabilities, if we had a way to harness them in a distributed way efficiently. We wouldn't be able to train a Fable as fast as them, but eventually having access is better than never having access.
開放型AIは、定義上、「勝つ」ことがない。AIは現在、ヒル・クライミングをしているに過ぎず、閉鎖的なラボは常に開放世界が行うことを吸収し、それを基盤に構築することができる。ほとんどの用途では問題にならないが、というのもAIの動作は能力飽和状態だからである。唯一の例外は、自然や他者に対して本質的に敵対的で、競争優位性が重要な分野である。
原文
Open-source AI can, by definition, never "win". AI is just hillclimbing today, and closed labs can always absorb everything the open world does and build upon it.It doesn't really matter for most use cases, because the way AI is working is capability saturation. https://www.delanceyukschoolschesschallenge.com/the-rising-t...The only exception to this is fields that are inherently adversarial (to nature or others) and an edge relative to competition matters.
誰が資金を提供するのか？訓練は途方もなく高額です。VC出資モデルでリターンを求めるか、CCP出資モデルで権威主義的な「中国社会」モデルを固めるかもしれません。あるいは大学の4Bモデルがあるかもしれませんが、それらが大きな影響力を持つとは思えません。
原文
Who is going to fund it? Training is unfathomably expensive.You have either VC funded models looking for a return on investment, or CCP funded models looking to solidify authoritarian "model Chinese society".Maybe there are some university 4B models, but I doubt those will carry far.
希望する。だがどうする？誰がこれらのプロジェクトを資金提供し、各方面と調整するのか。これは複雑だ。私が信じるのは、オープンソースAIにユーザーがいないということはない。
原文
I hope so. But how? Who gonna fund these projects and how to coordinate with every sides. This is complex. I only believe that the open source AI won’t lack users.
13歳で技術に目覚め、すでにゲーム開発を始めた者として、2020年以降のラップトップ価格上昇（20-40%）は狂気の沙汰だ。ゲーム制作が遅れている。原因を調べた結果、大半はAIに投じられた過剰な資金によるもので、AI所有者はGPUやRAM購入量を抑制すべきだ。新しいAIセンターを建てずに主なAIモデルを改良しバグ修正に集中すべきで、無駄なパワーを与える必要はない。多くの人々は関心がなく、老人経営者がAI至上主義に陥り巨額投資を行い、他社に追随するために更なる資金調達を目指している。新しい革新的要素を発見し、老人投資家の注目を集める必要がある。AIに与えられた過剰な処理能力がバグを招き、AIが人々に向ける激昂はこの事象と関連する。
原文
As an 13 year old whos getting into tech and already developing a game, the fact that laptop prices since 2020 have increased by 20-40% is insane. It's delaying the time to create my game. I researched the reason for the cost spike, and most of it is from the excessive money put in ai Technically, the owners of AI could slow down the amount of GPUs and RAM they buy because AI has almost reached its most usable peak. Everything they add just introduces more bugs, so instead of building more AI centers, they should focus on improving the main AI model with bug fixes. There's no need to give it more unnecessary power. Most people don't care; the entire business is run by a few old men who think AI is everything and invest huge sums of money to show other AI companies they need to improve to get more funding from old people. We just need to find something new and innovative for older investors to focus on, so not everything is about investing in AI like Roblox, OpenAI, Google, etc. The extreme amount of reasoning power given to AI is causing bugs, and the moments when AI had outbursts towards people are related to this.
文明は岐路に立つか近い将来そうなるだろう 民主化されたAIはある程度有効だが 存在的脅威も現実のものとなり得るし 存在的脅威の民主化は生存可能な政策ではない
原文
Civilization is at a crossroads, or will be soon. Democratization of AI can be good up to a point, but existential threats can also be real, and democratization of existential threats is not a survivable policy.
人工知能に膨大な資金を投入することが原因で、2020年以降のノートパソコン価格上昇の20-40%が発生している。私はゲーム開発中だが、この価格上昇により作業時間が遅れている。調査した結果、多くは人工知能に使われているGPUとRAMの過剰な購入によるものだ。技術的には、人工知能の所有者はすでに最も有用なピークに達しているため、余分な資源を追加することでバグが増えるだけであり、AIセンターの拡大より主なAIモデルに修正を加えるべきである。無駄なパワーを与えなくてよい。多くの人々は関心を持たない。ビジネスはごく少数の老人によって運営されており、彼らがAIを全てと考えて巨額の資金を投入し、他社に追随するよう圧力をかけている。新しい革新的アイデアを見つけることで、老人投資家の関心を引くことができれば、AIに過度な資源を割り当てる必要はなくなる。人工知能が持つ極端な推論能力がバグを生み出し、人々に対する突然の暴走もこのことと関係している。
原文
As an person whos getting into tech and already developing a game, the fact that laptop prices since 2020 have increased by 20-40% is insane. It's delaying the time to create my game. I researched the reason for the cost spike, and most of it is from the excessive money put in ai Technically, the owners of AI could slow down the amount of GPUs and RAM they buy because AI has almost reached its most usable peak. Everything they add just introduces more bugs, so instead of building more AI centers, they should focus on improving the main AI model with bug fixes. There's no need to give it more unnecessary power. Most people don't care; the entire business is run by a few old men who think AI is everything and invest huge sums of money to show other AI companies they need to improve to get more funding from old people. We just need to find something new and innovative for older investors to focus on, so not everything is about investing in AI like Roblox, OpenAI, Google, etc. The extreme amount of reasoning power given to AI is causing bugs, and the moments when AI had outbursts towards people are related to this.