オープンソースのFlash向け3Dエンジンと言えば「Papervision3D」が有名ですが「Sandy 3D Engine」というエンジンもなかなか凄そうです。
Sandy 3D engine (AS3 & AS2) for Adobe Flash/about
http://www.flashsandy.org/
こんな感じに既にいくつも実際のサイトで使われているみたいです。
Sandy 3D engine (AS3 & AS2) for Adobe Flash/demos
http://www.flashsandy.org/demos
農場経営ゲームの「Waterfall Woods」を試したところ多少カクカクした動作ですが充分に遊べる速度で動作しました。
Waterfall Woods | Garden Adventure
http://www.protopop.com/games/waterfallwoods/
オンラインでFlashアプリが作成出来るサイト「wonderfl」でも対応しているみたいでFlash対応のブラウザさえあれば気軽に作成できそうです。
ライセンスの記載はサイトには見当たりませんでしたがソースコードに同梱されているファイル( src/sandy/licence.txt )で確認できました。3.1.2で確認したところMPLライセンスでした。