關於跑程式之記憶體問題 - 電腦

小妹不知道要在那個版發問..因為要畢業有點急..
如果有更好的版可以發問請推薦..
實驗室正在跑ILOG軟體..
簡單描述一下此軟體
ILOG軟體是一套解數學模式的軟體..
求解時間與所設計的限制式及變數成正比
而處理問題必須耗費許多的記憶體

而電腦配備如下：
cpu:intel i7 920
mb:gigabyte ud4p
vga:hd4670
ram:ddr3 2g*6共12g
hd:wd sataII 640g
作業系統是灌vista business 64bit
而在跑15筆data時 約17萬個變數
而跑16筆時，變數增加至18萬個左右，程式未開始跑，就顯示"out of memory"的字樣，
與平時跑到了幾十分鐘，才顯示"out of memory"不同。
這樣描述可能有點抽象，敬請包含
但工作管理員所顯示的實體記憶體使用量才約3G左右
可用記憶體還有約8G多，
曾經歸類成幾個問題可能性
1.是否為作業系統本身限制此ILOG軟體所吃的記憶體數量3G左右?
ans:但爬文結果..vista作業系統似乎沒有這種限制
2.ILOG此軟體本身之限制，所能處理的變數問題問題已達上限，故起始值就無法開始求解
ans:個人也偏向是這個問題..因此版本為支援vista 64bit版本
3.作業系統與軟體本身皆無問題，程式設計不良..故跑不出來
ans:程式已經竭盡所能最簡化了..=.=
請問板上有高手不吝賜教，感恩。

--
或許只有在離得最遠的時候，
才能把曾經走過的那段日子，
看的最真確最清楚。

--