跳至内容

博客

linux的io栈图

#kernel

G+上看到有人画的一个图,非常不错

阅读更多

May 6, 2014

zz分布式文件系统FastDFS架构剖析

#rpc

【本文系外部转贴,原文地址:http://www.programmer.com.cn/4380/】 FastDFS是一款类Google FS的开源分布式文件系统,它用纯C语言实现,支持Linux、FreeBSD、AIX等UNIX系统。 它只 能通过专有API对文件进行存取访问,不支持POSIX接口方式,不能mount使用。准确地讲,Google FS以及FastDFS、 mogileFS、HDFS、TFS等类Google FS都不是系统级的分布式文件系统,而是应用级的分布式文件存储服务。

阅读更多

May 4, 2014

扩展sawzall代码实现自定义接口

#netty#iptables

使用sawzall开发mr程序虽然很快,不过也有不少限制,尤其对于新手来说,比如不能直接像c++一样调用线程的库,不过它提供了一种扩展开发的方式,我们可以自己修改sawzall代码实现新的功能接口,在下载平台的sawzall代码中,我们就扩展了一种聚合器,两个和我们web相关的功能接口:连接我们的domain service进行聚合域名的识别,根据url进行域名提取。这里以使用我们comm库中的url类进行域名提取为例来说明一下sawzall的功能函数扩展。

阅读更多

May 4, 2014

海量数据分析:Sawzall并行处理(中文版论文)

#netty#iptables

海量数据分析:Sawzall并行处理(中文版论文) Google的工程师为了方便内部人员使用MapReduce,研发了一种名为 Sawzall的DSL,同时Hadoop也推出了类似Sawzall的Pig语言,但在语法上面有一定的区别。今天就给大家贴一下Sawall的论文, 值得注意的是其第一作者是UNIX大师之一(Rob Pike)。原文地址,并在这里谢谢译者崮山路上走9遍。

阅读更多

May 4, 2014

使用gdb和ps定位程序cpu占用问题

#uwsgi

先使用ps获取子进程cpu占用时间,可以看出那个线程cpu占用严重

阅读更多

April 30, 2014

Storm云计算学习摘录总结

#linux 应用

本想自己也总结以下,看到这篇文章总结的太好了,直接转载了 原文:http://my.oschina.net/yilian/blog/175451

阅读更多

April 12, 2014

liunx系统分析图解

#kernel

看完本文有收获?请分享给更多人 关注「黑光技术」,关注大数据+微服务

阅读更多

April 11, 2014

Sqlite使用笔记

#nginx

在目前做的元数据节点中,为了保存一些节点的私有数据,选择了本地存储,在选择本地存储的选择上又选择了使用sqlite,sqlite对数据存储和数据解析在使用比较简单。而且编译入当前代码也是比较容易的。

阅读更多

April 10, 2014

☯道&禅

#生活

Tao… … 道生一,一生二,二生三,三生万物。。 一花一世界,一叶一菩提! 禅曰:依赖导致痛苦! 完美之道,不在无可增加,而在无可删减。

阅读更多

April 6, 2014

Helight.Xu's GNU/Linux

#生活

Zhwen Xu(Zhenwen Xu, 许振文 in Chinese), post-graduate student majored in the CS Department of Xi’an University of Post and Telecommunications. My majore is embedded system.

阅读更多

April 6, 2014

scons学习笔记

#linux 应用

scons是一个python写的用来编译源码的一个工具,类似于make工具,但是支持的语言更多,灵活性更强。 这里来介绍一下scons的使用。下载可以在其官方网站:http://www.scons.org,源码安装就不说了,ubuntu和debian上安装更为方便,直接apt-get install scons就可以了。本文以编译c、c++为例来介绍其使用。

阅读更多

April 6, 2014

ROMFS文件系统分析

#linux 应用

作者:许振文 ROMFS是一种简单的只读文件系统,主要是用来当做初始文件系统来使用的,在嵌入式linux或是uclinux中通常使用这中文件系统来作为引导系统的文件系统,甚至uclinux有时就直接把ROMFS作为其根文件系统,而不是将其作为系统启动中的过渡文件系统。在前面我也分析过,linux操作系统启动中一个是要加载内核,另一个就是要加载一个用于系统简单初始化的文件系统。这个文件系统的格式也是经过了很多发展的。现在一般使用的是一中cpio的格式。在嵌入式系统中一般使用romfs+其它的可读文件系统。romfs由于它的小巧性(其内核编译只有4000字节),所以非常适合作为系统启动初始化的文件系统。本文就是对ROMFS文件系统进行结构上的分析。前面我也曾对其源代码结构进行了简单的分析。关于ROMFS最为权威的资料是内核源代码树下的“Documentation/filesystems/romfs.txt”。本文多数资料就是来自于该文件。

阅读更多

April 6, 2014

Ramdisk文件系统的制作-V0.2

#linux 应用

作者:许振文 Ramdisk文件系统: 可以利用工具软件BusyBox制作Ramdisk文件系统.busybox是一个集成了一百多个最常用linux命令和工具的软件,他甚至还集成了 一个http服务器和一个telnet服务器,而所有这一切功能却只有区区1M左右的大小.完整的BusyBox源代码可以从 http://www.busybox.net下载,压缩包大小为1.3 MB左右。下面是如何使用编译BusyBox的过程。

阅读更多

April 6, 2014

嵌入式开发中NFS调试环境搭建-V0.2

#life

作者:许振文 开发环境:S3C4510B+uCLinux-2.4.x+ubuntu7.10 建立的目的:可以直接在开发板上挂载开发主机上的文件系统,减少程序的烧写次数,提高程序开发速度。 NFS(Network File System, 网络文件系统)可以通过NFS把远程主机的目录挂载到本机,使得访问远程主机的目录就像访问本地目 录一样方便快捷。 NFS一般是实现linux系统之间实现共享.当然和unix之间也应该可以使用它来实现共享。但如果需要在linux和windows系统之间共 享, 就得使用samba了!, NFS是一个RPC服务程序,所以在使用它之前, 先要映射好端口——通过portmap设定. 比如: 某个NFS client发起NFS服务请求时, 它需要先得到一个端口(port).所以它先通过portmap得到port number.所以在启动NFS之前, 需要启动portmap服务!

阅读更多

April 6, 2014

GUN 工具学习

#linux 应用

作者:许振文 nm nm默认的输入文件为a.out,也就是说,如果nm后面没有跟要查看的二进制文件名的话, 那它会默认读取当前文件夹下的a.out文件作为其输入。

阅读更多

April 6, 2014