下記の方法を使えば影のみレンダリングすることが可能です。
Creat＞Vray＞Object properties＞Apply single object properties node to selectionを選択。
Apply multiple～の場合選択しているObjそれぞれ1つずつにObject propertieが設定されます。
Apply single～の場合選択しているObjすべてに一つのObject propertieが設定されます。
Maxをつかったことがある人ならすぐわかると思いますが、MayaでいうRenderStatsのようなもので、要素のON/OFFやIDの設定も出来ます。
設定は上記の画像のようにMatteSurfaceをONにし、AlphaContributionを-1にします。
AlphaContributionが1の場合、通常通りアルファが出力されます。
0の場合、アルファが出力されません。
-1の場合、設定したObjのアルファで他のアルファがくり抜かれます。※BlackHoleを使ったときのような感じです。
ShadowとAffect AlphaをONにすれば、あとは他のObjのPrimary VisibiltyをOffなどすれば完了です。
地味にVray触りたてのとき自分も周りもこの方法知らなくて、困った時があったなー……。