摘要:这个世界每天都在源源不断地生产数据,而人们尤其是商界往往希望从这些数据中获取到有价值的信息。而这一点也促使很多试图从数据中提取有用信息的数据科学家们(或被叫做数据分析师、数据挖掘者等等听起来不错的称谓)不断地进行探索。

引言

这个世界每天都在源源不断地生产数据,而人们尤其是商界往往希望从这些数据中获取到有价值的信息。而这一点也促使很多试图从数据中提取有用信息的数据科学家们(或被叫做数据分析师、数据挖掘者等等听起来不错的称谓)不断地进行探索。

很多作者身边的数据科学家毕业于统计学、数学、物理学或生物学专业。他们在研究过程中,往往只关注于独立的模型方法或者漂亮的可视化效果,却没人尝试通过学习计算机科学的相关课程提高自身掌握编程语言的能力,帮助他们敲出更优化和专业的代码——具有良好的易读性,可重复使用,运行高效,内存占用合理,容易移植,最重要的是可以产出可信的结果。

作者也不外如是。他在研究期间,曾有过使用 R 语言和Matlab 用于大量机器学习算法的实践经历。实践中,我们总是在注意力放在选取最优的模型,调整参数,解决与违背模型假设相关的问题和其他理论概念等等方面上。因此,作者在工作之初不得不去学习如何处理有缺陷的输入数据,写出每天都能够正常运行的代码,拟合最优的模型,以数据集的方式存储预测结果,或是直接使用它们解决在线客户的问题。

为了顺利完成工作,作者踏上码农标准的学习之路:阅读书籍、论文、博客,对感兴趣的项目尝试新方法去处理,谷歌搜索问题,在 stack-overflow 网站上提问,寻求的同事的帮助。但总是忙于解决一些微小且特定的问题。

幸运的是,作者曾与一些“机智”的计算科学家讨论过如何提高编程能力,写出专业化(至少别太业余)代码的问题。下文是作者自离校之后感悟到的一些关键点。这些关键点帮助作者在理论和实践中解决了更为复杂的问题。提高你的编程能力是一条学而无涯的路,你的每个新项目都是一次锻炼的过程。

1. 参数、常量和函数

如果你在写代码的时候就已经考虑过用它来解决相似的问题,那么写出来的代码是很容易被移植的。这个想法虽然简单,实践起来却并不容易。而“参数、常量和函数”便是你实现这点的基础。

参数可用于改变重要变量的值和完成一些设置。写代码的时候,注意不要以常量的形式去设定参数。而常量则可以用来定义不会改变的静态量,举例来说,当你需要比较字符串时就可以用到常量。

library(caret)
library(futile.logger)

#' 常量
DATASET_IRIS <- 'iris'
DATASET_MTCARS <- 'mtcars'
IRIS_TARGET <- 'Sepal.Length'
MTCARS_TARGET <- 'mpg'
MODELLING_METHOD_RF <- 'random forest'
MODELLING_METHOD_GBM <- 'gradient boosting machine'

#' 参数
DATASET <- DATASET_IRIS
MODELLING_METHOD <- MODELLING_METHOD_GBM

#' 载入数据
flog.info(paste0('Loading ', DATASET, ' dataset'))
if (DATASET == DATASET_IRIS){
  data(iris)
  df <- iris
  target_variable <- IRIS_TARGET
} else if (DATASET == DATASET_MTCARS){
  data(mtcars)
  df <- mtcars
  target_variable <- MTCARS_TARGET
}

#' 构建表达式
modelling_formula <- as.formula(paste0(target_variable, '~.'))

#' 训练模型
flog.info(paste0('Fitting ', MODELLING_METHOD))
if(MODELLING_METHOD == MODELLING_METHOD_RF){
  set.seed(42)
  my_model <- caret::train(form=modelling_formula,
                           data=df,
                           method='rf')
} else if(MODELLING_METHOD == MODELLING_METHOD_GBM){
  set.seed(42)
  my_model <- caret::train(form=modelling_formula,
                           data=df,
                           method='gbm',
                           verbose=FALSE)
}
my_model

函数是编程中的重要一环,我们往往以函数的方式处理重复性工作。通常情况下,函数应当能够解决某种特定的问题并足以应用于相似的情况,其被推广的程度取决于你想实现什么样的目标。

函数需要附上解释说明部分,最起码要说明函数可以解决什么问题和各个输入参数的意义。作者一般使用 R 包构建时的注释方式,以便于函数可以直接用于 R 包中,而不需要额外的处理。更多注释的细节可在 ”如何编写 R 包的说明文档“ 网页中查看。

#' 计算均方根误差
#'
#' @observed 参数表示观测值
#' @predicted 参数表示预测值
#' @返回数值类型
f_calculate_rmse <- function(observed, predicted){
  error <- observed - predicted
  return(round(sqrt(mean(error^2)), 2))
}

你需要检验所编写的函数是否能够正常运行,因此,将检验的流程自动化处理会便于日后对函数的改动。当你需要 构建 R 包 时创建函数,这点尤其重要。testthat 包可以很方便的解决这个问题,你可以在 “如何检验 R 包中代码的有效性” 网页中看到如何自动检验你的代码。

library(testthat)
library(Metrics)

#' 检验 f_calculate_rmse 函数
test_that('Root Mean Square Error', {
  #' 创建数据
  n <- 100
  observed <- rnorm(n)
  predicted <- rnorm(n)
  my_rmse <- f_calculate_rmse(observed=observed, predicted=predicted)

  #' 检验与 Metrics 包中的 rmse 函数结果是否相同 
  expect_equal(my_rmse, 
               Metrics::rmse(actual=observed, predicted=predicted), 
               tolerance=.05) 
  #' 检验输出结果是数值类型且非负数
  expect_that(my_rmse, is_a("numeric")) 
  expect_that(my_rmse >= 0, is_true())
})

好在我们不需要自己编写所有的函数, R 语言的好处就在于在它大量的包里已经有很多可用的函数了。为了避免出现载入的两个包中有相同名称函数的重名问题,你可以通过 packagename::functionname() 的方式指定想使用的包名。比如说,在载入的 plyrdplyr 包中都含有summarise函数。

library(plyr)
library(dplyr)

#' 载入数据
data(mtcars)

#' 查看结果
summarise(group_by(mtcars, cyl), n=n())
plyr::summarise(group_by(mtcars, cyl), n=n())
dplyr::summarise(group_by(mtcars, cyl), n=n())

2. 样式

你以后还是需要重新阅读你自己的代码,因此,代码需要保持一个连贯的样式,便于自己和其他阅读的人能够理解。很多人使用 谷歌的 R 编程规范 或是 Hadley Wickham 的 R 语言编程样式

给代码加上注释是非常重要的,特别是在你认为构建思路很好的时候方便日后查看。同时,也不要忘了加上看似有些冗长的函数和变量名解释。

3. 版本控制

项目管理中,版本控制也很重要,它可以节省你大量的精力。版本控制具有很多好处,你可以在 “使用版本控制的原因” 网页中看到。对于作者而言,最重要的好处在于:

  • 能够回溯到之前版本的代码
  • 管理项目文件,不用担心误操作
  • 便于与同事协作

你可以使用 git 进行版本控制,特别是在 RStudio 中。

4. 优化

优化代码的过程不一定就是杂乱无章的。

如果代码运行出故障,就需要快速定位到问题并解决它。好在 RStudio 拥有很多 内置调试工具 ,你可以在认为代码出现问题的地方创建一个断点,然后重新运行代码,重复这个过程来找出问题所在。

#' 创建数据
set.seed(42)
n <- 100
observed <- rnorm(n)
predicted <- rnorm(n)

#' 调试函数
debug(f_calculate_rmse)
f_calculate_rmse(observed=observed, predicted=predicted)

你需要知道,每种编程语言都有它的优点和不足。你也不希望代码运行得太慢或者占用太多内存。分析代码的结构可以帮助解决这个问题,而 RStudio 也提供了这方面的 解决方案 。分析代码结构能够监测到运行代码最耗时和最占用内存的地方。在优化代码的时候不要过度依赖自己的直觉。

在数据集增大时,你需要检查其对于运行时间和内存占用需求的影响,这点有助于你理解应当选择什么样的数据集和在数据集规模改变时会引发什么样的后果。

library(profvis)

#' 分析 f_calculate_rmse 函数结构
profvis({
  set.seed(42)
  n <- 1e5
  observed <- rnorm(n)
  predicted <- rnorm(n)
  f_calculate_rmse(observed=observed, predicted=predicted)
})

代码优化过程中,你会面对很多问题。每次问题出现,尤其需要关注数据类型和遗漏的参数,你就应当能够从中提升解决代码错误的能力,并认识到这种警告或错误的成因。

5. 部署

部署意味着你的代码需要实现自动运行的功能,至少不需要你的干预,代码就可以一行行运行下去。明确了解代码输出的内容和运行是否顺利是非常重要的。futile.logger 包可以实现代码的部署,它是一个轻量级解决方案,并且能够通过屏幕输出或导出文件记录下代码的运行过程。你所要做的仅仅是在合适的位置写下便于理解的相关信息。

library(futile.logger)

#' 建立记录器
flog.threshold(DEBUG) # level of logging
flog.appender(appender.file('foo.log')) # log to file

#' 记录器的相关信息
flog.info('Some info message')
flog.debug('Some debug message')
flog.warn('Some warning message')
flog.error('Some error message')

代码的自动运行通常可以使用 Cron 计划任务程序运行 foo.r 的 R 语言脚本。这个命令将会运行 foo.r 代码。但往往你需要设定这个脚本里的一些参数来分析不同的数据,如果想重新训练模型的话还需要指定想使用的机器学习方法。因此,作者使用 argparse 包,下列代码可以输入命令Rscript my_code.r -if latest_data.csv实现通过输入文件名指定读入的 csv 文件:

library(argparse)

#' 设定默认参数
INPUT_FILE_DEFAULT <- 'input.csv'

#' 创建解析器
parser <- ArgumentParser(description='My code')

#' 定义类目
parser$add_argument('-if', '--input_file', 
                    default=INPUT_FILE_DEFAULT, 
                    type='character', 
                    help='Location of csv file with input data')

#' 传入命令行
args <- parser$parse_args()

#' 载入数据
data <- read.csv(args$input_file)

6. 绘图

数据可视化可以称得上是数据分析中的“橱窗柜”了,因此你可能会花费大量时间调整每个输出图。最好的操作方案如下:

  1. 在每个脚本中,定义样式,调色板和其他参数;
  2. 编写输出图的函数;
  3. 使用另一个函数展示输出图或保存成文件。

下面是一个基础的实例:

library(ggplot2)
data(iris)

#' 设定基本样式
my_collors <- list('red'='#B22222')

#' 编写创建直方图的函数
f_create_histogram <- function(df, column){

  p <- ggplot(df, aes_string(x=column)) +
    geom_histogram(binwidth=.1, fill=my_collors$red) +
    ggtitle(paste0('Histogram of ', column))

  return(p)
}

#' 创建输出图对象
sepal_length_hist <- f_create_histogram(iris, 'Sepal.Length')
sepal_width_hist <- f_create_histogram(iris, 'Sepal.Width')

#' 展示
sepal_length_hist
#' 保存
ggsave('sepal_width_hist.png', plot=sepal_width_hist)

7. 复现性

确保你的代码可以被复现。由于很多数据分析的步骤中包含随机的取样或优化,因此我们需要确保重新运行代码可以得到同样的结果。这也是为什么我们需要使用set.seed()函数。

> set.seed(42); sample(LETTERS, 5)
[1] "X" "Z" "G" "T" "O"
> set.seed(42); sample(LETTERS, 5)
[1] "X" "Z" "G" "T" "O"
> sample(LETTERS, 5)
[1] "N" "S" "D" "P" "W"

8. 组合工具

一旦你在 R 语言编程中小有所成,你会希望尽可能多地使用 R 中的工具。但请别忘了还有很多其他的可用工具,而且通过接口,它们可以与 R 实现共通。比方说,作者经常将 R 语言和 Python 或 SQL 数据库一起使用。

原文链接:8 simple ways how to boost your coding skills (not just) in R

原文作者:aLook 数据分析公司

译作者:Vector