#include の順番が地味に重要だった。

#include <ruby.h>
#include <Carbon/Carbon.h>

だとコンパイルエラー

#include <Carbon/Carbon.h>
#include <ruby.h>

すればおk

#!/usr/bin/ruby

require 'mkmf'
$CFLAGS << " -framework Carbon "
$LDFLAGS << " -framework Carbon "
create_makefile 'osxhotkey'

とか一応やらないとリンクが通らない