[C] Aiuto librerie OpenSSL

[Nagashi890]

Ciao a tutti..
devo usare le librerie OpenSSL in C per proteggere la comunicazione tra un client e un server
utilizzando l'algoritmo RSA, ma il programma non funziona e non so più dove sbattere la testa..

questo è il codice del client che cripta una stringa con la funzione encryptString()

#include <openssl/rsa.h>
#include <openssl/rand.h>
#include <openssl/pem.h>
#include <openssl/evp.h>

int encryptString(char* string, char* dataout, char* filename, RSA* rsa) {

	int size;
	char file_pem_pub[36];
	strcpy(file_pem_pub, filename);
	FILE* fp;

	fp = fopen(file_pem_pub, "r");    //file che contiene la chiave creata in precedenza

	rsa = PEM_read_RSAPublicKey(fp, &rsa, NULL, NULL);
	
	RSA_public_encrypt(strlen(string), string, dataout, rsa, RSA_PKCS1_PADDING);
	
	size = strlen(dataout);
	
	fclose(fp);
	
	return size;
}

int main() {
	
	int rsa_size;
	int ret;
	char* dataout;     //buffer che deve contenere il messaggio criptato
        //char* message = <stringa da criptare>

	OpenSSL_add_all_algorithms();
	RSA* rsa = RSA_new();

	rsa_size = RSA_size(rsa);

	dataout = malloc(rsa_size);

	memset(dataout, 0, sizeof(dataout));
	ret = encryptString(message, dataout, "spub.pem", rsa);
	RSA_free(rsa);
}

Il programma dà errore di segmentazione quando esegue la funzione RSA_size()
non so più che correzioni fare.. spero che qualcuno mi possa aiutare.

Grazie!

[Nagashi890]

Allora.. ho risolto l'errore di segmentazione togliendo la funzione encryptString e mettendo tutto nel main..

Ora però il problema è che il server non decripta, e la funzione RSA_private_decrypt() restituisce -1

riporto il codice del server e del client saltando tutto il codice relativo alla creazione dei socket.

//Client

        generate_RSA_keys("cpub.pem", "cpriv.pem");

	printf("Inserisci il tuo nome: ");
	fflush(stdout);

	scanf("%s", nome);

	//RSA ALGORITHM

	// Context allocation
	OpenSSL_add_all_algorithms();
	RSA* rsa = RSA_new();

	//Encryption
	FILE* fp;
	fp = fopen("spub.pem", "r");

	rsa = PEM_read_RSAPublicKey(fp, &rsa, NULL, NULL);
	rsa_size = RSA_size(rsa);
	
	cnome = (char*)malloc(rsa_size);
	memset(cnome, 0 , sizeof(cnome));
	
	nlen = strlen(nome);
	RSA_public_encrypt(nlen, nome, cnome, rsa, RSA_PKCS1_PADDING);

	//Context deallocation
	RSA_free(rsa);
	fclose(fp);

	int c_len = strlen(cnome);
	ret = send(sk, (void*)cnome, c_len+1, 0);

//Server

        generate_RSA_keys("spub.pem", "spriv.pem");	

	ret = recv(c_sk, (void*)cnome, sizeof(cnome), 0);

	//RSA ALGORITHM
	//Context allocation
	OpenSSL_add_all_algorithms();
	RSA* rsa = RSA_new();
	
	FILE* fp;
	fp = fopen("spriv.pem", "r");

	//Decryption
	rsa = PEM_read_RSAPrivateKey(fp, &rsa, NULL, NULL);
	
	rsa_size = RSA_size(rsa);
	
	nome = (char*)malloc(rsa_size);
	memset(nome, 0, sizeof(nome));
	c_len = strlen(cnome);
	n = RSA_private_decrypt(rsa_size, cnome, nome, rsa, RSA_PKCS1_PADDING);
	
	//Context deallocation
	RSA_free(rsa);
	fclose(fp);

Questa è la funzione generate_RSA_keys()

void generate_RSA_keys(char* public, char* private) {
	
	char file_pem[strlen(private)];
	char file_pem_pub[strlen(public)];
	strcpy(file_pem, private);
	strcpy(file_pem_pub, public);
	FILE *fp;

	int bits = 1024;
	unsigned long exp = RSA_F4;
	RSA *rsa;
	rsa = RSA_generate_key(bits,exp,NULL,NULL);

	fp = fopen(file_pem, "w");
	unsigned char *kstr = "pass";
	PEM_write_RSAPrivateKey(fp,rsa,EVP_des_ede3_cbc(),kstr,strlen(kstr),NULL,NULL);
	fclose(fp);
	fp = fopen(file_pem_pub, "w");
	PEM_write_RSAPublicKey(fp, rsa);
	fclose(fp);
	RSA_free(rsa);
	
}

La stringa criptata viene ricevuta correttamente dal server.. ma poi non viene decriptata..
Ho visto però che a volte funziona, altre volte dà questo errore:

error:0407106B:rsa routines:RSA_padding_check_PKCS1_type_2:block type is not 02