由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Statistics版 - Help: cannot allocate memory block (in R)
相关主题
新手问个R里vectorization的问题急问:到哪里能买或租到computing facility/server?
R的memory size,请教!another example of parallel computing
Python里面跟R的apply对应的命令有么?求问一个sas report 里面更换format的问题
R Error Message: cannot allocate vector of size 128.0 Mberror of gamma.fit() in python (转载)
请教一个问题包子答谢:An I/O error has occurred on file abc.DATAMemory Error in pandas.concat with Python
A question about R如何处理下面这种情况
其实,我觉得统计专业的同学不是很适合干data scientist 的工作Error Bar
R parallel computation libraryquestions about allocating memory in SAS
相关话题的讨论汇总
话题: allocate话题: block话题: memory话题: cannot话题: python
进入Statistics版参与讨论
1 (共1页)
x**g
发帖数: 807
1
遇到一个存储空间的问题,诚心请教版上大牛们。问题是这样的,
我在64位的台式机上做一个Bootstraping,用Type=bca算置信区间。机器也是64位的,
Windows操作系统,4GB RAM。机器上装的R也是64位的,并且修改了设置。
memory.size(1000000000000)
谁知算到一半,得到一个warning message如下:
Error: cannot allocate memory block of size 2.3 Gb
请问,我该怎样做才可以把这个Error消除掉,继续运算得到结果呢?
r*****t
发帖数: 91
2
你这个问题我之前也遇到过,网上搜索了各种方法都不管用(网上有很多解决方法但是
都是针对溢出很小的size的,但是你那个是2.3G也过于大,估计不太容易work),然后
只能用多核处理器(>8 cores)的做parallel computation了。
x**g
发帖数: 807
3
这个Parallel computation是怎么回事?实验室里的台式机能做吗?还是需要用于转么
运算的SuperComputer来做呢?

【在 r*****t 的大作中提到】
: 你这个问题我之前也遇到过,网上搜索了各种方法都不管用(网上有很多解决方法但是
: 都是针对溢出很小的size的,但是你那个是2.3G也过于大,估计不太容易work),然后
: 只能用多核处理器(>8 cores)的做parallel computation了。

j******4
发帖数: 6090
4
有多个处理器的电脑应该都可以做,只是用super computer肯定更快

【在 x**g 的大作中提到】
: 这个Parallel computation是怎么回事?实验室里的台式机能做吗?还是需要用于转么
: 运算的SuperComputer来做呢?

s*********e
发帖数: 1051
5
没那么复杂。程序改改就行了。

【在 x**g 的大作中提到】
: 遇到一个存储空间的问题,诚心请教版上大牛们。问题是这样的,
: 我在64位的台式机上做一个Bootstraping,用Type=bca算置信区间。机器也是64位的,
: Windows操作系统,4GB RAM。机器上装的R也是64位的,并且修改了设置。
: memory.size(1000000000000)
: 谁知算到一半,得到一个warning message如下:
: Error: cannot allocate memory block of size 2.3 Gb
: 请问,我该怎样做才可以把这个Error消除掉,继续运算得到结果呢?

o****o
发帖数: 8077
6
我用32G的机器也会遇到这个问题,是跟R的indexing有关么?
并行计算就用过foreach包,还挺好用的,还有别的推荐么?
x**g
发帖数: 807
7
能详细说说吗?怎么改程序呢?

【在 s*********e 的大作中提到】
: 没那么复杂。程序改改就行了。
s*********e
发帖数: 1051
8
删掉没用的临时数据,把数据存在硬盘上,把内存释放出来。。。

【在 x**g 的大作中提到】
: 能详细说说吗?怎么改程序呢?
x**g
发帖数: 807
9
en, 这些已经试过了,可是仍然没有帮助。我也在想,对于大的数据的data
manapulation 和 analysis in R, 大家是怎么做的呢?有没有相关的书或者文献可以
参考的?

【在 s*********e 的大作中提到】
: 删掉没用的临时数据,把数据存在硬盘上,把内存释放出来。。。
s*********e
发帖数: 1051
10
别R了,PYTHON吧。

【在 x**g 的大作中提到】
: en, 这些已经试过了,可是仍然没有帮助。我也在想,对于大的数据的data
: manapulation 和 analysis in R, 大家是怎么做的呢?有没有相关的书或者文献可以
: 参考的?

相关主题
A question about R急问:到哪里能买或租到computing facility/server?
其实,我觉得统计专业的同学不是很适合干data scientist 的工作another example of parallel computing
R parallel computation library求问一个sas report 里面更换format的问题
进入Statistics版参与讨论
k*****u
发帖数: 1688
11
can python call R function or library?
s*********e
发帖数: 1051
12
yes, with rpy2.robjects. but this method is not as efficient as native R
code.
k*****u
发帖数: 1688
13
O~ I am trying the examples in "Learn Python The Hard Way" from step 0
s*********e
发帖数: 1051
D******n
发帖数: 2836
15
Windows?

【在 x**g 的大作中提到】
: 遇到一个存储空间的问题,诚心请教版上大牛们。问题是这样的,
: 我在64位的台式机上做一个Bootstraping,用Type=bca算置信区间。机器也是64位的,
: Windows操作系统,4GB RAM。机器上装的R也是64位的,并且修改了设置。
: memory.size(1000000000000)
: 谁知算到一半,得到一个warning message如下:
: Error: cannot allocate memory block of size 2.3 Gb
: 请问,我该怎样做才可以把这个Error消除掉,继续运算得到结果呢?

1 (共1页)
进入Statistics版参与讨论
相关主题
questions about allocating memory in SAS请教一个问题包子答谢:An I/O error has occurred on file abc.DATA
程序出现错误,是PC容量的问题,还是code 问题?A question about R
请问两道sas adv的题..其实,我觉得统计专业的同学不是很适合干data scientist 的工作
问一个问题: error of ratioR parallel computation library
新手问个R里vectorization的问题急问:到哪里能买或租到computing facility/server?
R的memory size,请教!another example of parallel computing
Python里面跟R的apply对应的命令有么?求问一个sas report 里面更换format的问题
R Error Message: cannot allocate vector of size 128.0 Mberror of gamma.fit() in python (转载)
相关话题的讨论汇总
话题: allocate话题: block话题: memory话题: cannot话题: python